app.py

all_stopwords=['sugl', 'up', 'stetti', 'lei', 'vi', 'ti', 'avait', 'on', 'you', 'tutto', 'nos', 'ayantes', 'seront', 'avions', 'sta', 'farà', 'sulle', 'ad', 'soyez', 'own', 'étant', 'tutti', 'avevamo', 'its', 'son', 'facesse', 'en', 'nostro', 'farete', 'essendo', 'those', 'tua', "aren't", 'votre', 'avete', 'aveva', "don't", 'had', 'dagli', 'aren', 'again', 'queste', 'auras', 'avevo', 'sto', 'off', 'tra', 'stando', 'li', 'avesti', 'sia', 'between', 'fai', 'stiate', 'furono', 'once', 'nella', 'hai', 'ebbero', 'tu', 'avez', 'du', 'mais', 'eurent', 'eravate', 've', 't', 'facemmo', 'étants', 'sommes', 'stavate', 'y', 'be', 'degli', 'sarebbero', 'serons', 'eût', 'mie', 'siano', 'ayants', 'dalle', 'negl', 'avranno', 'mi', 'facevamo', 'having', 'farebbero', 'hadn', 'avresti', 'under', 'quante', 'fossimo', "she's", 'stanno', 'dagl', 'her', 'as', 'était', 'avec', 'until', 'ai', 'same', 'siate', 'been', 'avons', 'fummo', 'sera', 'eravamo', 'are', 'soyons', "didn't", 'con', 'sarei', 'dai', 'o', 'after', 'an', 'qu', 'ton', 'why', 'most', 'm', 'eûtes', 'fûmes', 'needn', 'of', 'dello', 'more', 'there', 'le', 'aveste', 'stessi', 'abbiano', 'starebbero', 'facesti', 'him', 'll', 'aurait', 'e', 'êtes', 'aviez', 'stettero', 'me', 'facendo', 'la', 'della', 'qui', 'vostro', 'fareste', 'étante', 'sono', 'dallo', 'agli', 'fosse', 'aient', 'erano', 'staranno', "needn't", 'few', 'dalla', 'tuoi', 'vostra', 'sarete', 'stavano', 'here', 'seraient', 'à', 'ayante', 'aurions', 'eut', 'stette', 'a', 'at', 'nel', 'te', "that'll", 'fût', 'avevi', 'just', 'who', 'toi', 'nell', 'than', 'ne', 'questa', 'sarò', 'eue', 'dov', 'haven', 'avuto', 'vostri', 'seriez', 'coi', 'themselves', 'aurez', 'or', 'abbiamo', 'eûmes', "haven't", "shouldn't", 'sont', 'fosti', 'each', 'eus', 'saremmo', 'not', 'auraient', 'doesn', 'au', 'about', 'no', "weren't", 'aurons', 'da', 'herself', "couldn't", 'the', 'mes', 'est', 'stareste', 'both', 'quanta', 'de', 'seras', 'ho', 'what', 'stia', 'weren', 'she', 'avremmo', 'les', 'avrà', 'siete', 'faremo', 'any', 'yourself', 'avais', 'out', 'sullo', 'des', 'si', 'étées', 'fussent', 'eussiez', 'so', 'che', 'abbia', 'que', 'lo', 'nor', 'abbiate', 'étée', 'farei', 'suoi', 'quella', 'has', 'only', 'contro', 'ours', 'myself', 'faccia', 'does', 'stessero', 'avremo', 'in', 'mia', 'avrebbe', 'while', 'which', 'wasn', "mightn't", 'saremo', 'ci', "doesn't", 'su', 'nous', 'fûtes', 'aie', 'suo', 'l', 'but', 'dans', 'fus', 'del', 'fusses', 'shan', 'un', 'j', 'other', 'avuti', 'avrete', 'col', 'avessimo', 'notre', 'gli', 'soit', 'dall', 'mightn', 'ain', 'it', 'did', 'faranno', 'se', 'facessero', 'et', 'non', 'starà', 'do', 'eri', 'am', 'into', 'sui', 'mustn', "mustn't", 'fusse', 'uno', 'sa', 'di', "you've", 'été', 'furent', 'eues', 'nostri', 'he', 'delle', 'è', 'for', 'auriez', 'anche', 'farebbe', 'itself', 'faremmo', 'vous', 'aura', 'étions', 'soient', 'if', 'chi', 'facessimo', 'miei', 'hanno', 'allo', 'sull', 'nelle', 'perché', 'facevo', 'sulla', 'tue', 'facessi', 'such', 'theirs', 'and', 'serez', 'eusses', 'facciano', 'sul', 'facciate', 'have', 'hasn', 'fu', 'should', 'was', 'sua', 'avrebbero', 'that', 'étais', 'nello', 'cui', 'stessimo', 'alle', 'dove', 'below', 'over', "should've", 'is', 'aux', 'serai', 'staremmo', 'pas', 'quanto', 'avevano', 'vos', 'ait', 'avute', 'al', 'avrai', 'per', 'faceva', 'faccio', 'noi', 'during', 'yours', 'étés', 'foste', 'siamo', 'against', 'faceste', 'auront', 'hers', 'fanno', 'io', 'then', 'staresti', 'fussions', "you'll", 'une', 'being', 'tes', 'this', "you'd", 'quanti', 'when', 'più', 'starai', 'through', 'didn', 'avaient', 'eu', 'steste', 'where', 'come', 'them', 'aies', 'couldn', "you're", 'faresti', 'i', 'facevate', "shan't", 'feci', 'with', 'questo', 'stai', 'saresti', 'stesse', 'my', 'era', 'fece', 'shouldn', 'avrò', 'fui', 'starei', 'can', 'starebbe', "isn't", 'leur', 'ta', 'fossero', 'sei', 'they', 'ebbi', 'stiano', "wasn't", 'avreste', 'ce', 'ayez', 'serais', 'yourselves', 'avesse', 'ed', 'sarà', "hadn't", 'je', 'eux', 'don', 'questi', 'stavi', 'stesti', 're', 'himself', 'es', 'stava', 'saranno', 'avevate', 'by', 'fossi', 'farò', 'their', 'all', 'fecero', 'stavo', 'nei', 'sarai', 'sue', 'because', 'elle', 'fut', 'degl', 'down', 'suis', 'avessero', 'dal', 'how', 'will', 'were', 'étaient', 'avuta', 'stavamo', 'ayant', 'eussions', 'voi', 'negli', "it's", 'wouldn', 'ils', 'n', 'too', 'serait', 'serions', 'ebbe', 'some', 'stiamo', 'staremo', 'stemmo', 'your', 'dei', 'ha', 'avendo', 'lui', 'starete', 'ont', 'dell', 'avessi', 'ces', 'mio', 'ourselves', 'very', 'tuo', 'quello', 'from', 'il', "wouldn't", 'sur', 'sois', 'fussiez', 'now', 'won', 'further', 'eusse', 'loro', 'quelli', 'we', 'c', 'these', 'ou', 'ayons', 'our', 'quale', 'sarebbe', 'agl', 'to', 'above', 'facevi', 'doing', 'alla', 's', 'pour', 'd', 'isn', 'par', 'ero', 'avemmo', 'sareste', 'facciamo', 'starò', 'before', 'his', 'ses', 'aurai', 'una', 'avrei', 'farai', 'nostra', 'quelle', 'sugli', 'facevano', 'eussent', 'aurais', 'whom', "hasn't", 'nostre', 'même', "won't", 'mon', 'vostre', 'moi', 'ma', 'étiez', 'étantes']



import streamlit as st
import scattertext as stx
from scattertext import CorpusFromPandas
from scattertext.WhitespaceNLP import whitespace_nlp
import pandas as pd
import nltk
from nltk.tokenize import word_tokenize
#from nltk.corpus import stopwords
import plotly.express as px
from sklearn.feature_extraction.text import TfidfVectorizer
import matplotlib.pyplot as plt

nltk.download('punkt') 

################
#download function
import requests
import time
import pandas as pd
import urllib.parse
import datetime

from io import StringIO


def download_steam_api(app_id):
    # Imposta il cursore iniziale
    cursor = '*'


    # Lista per raccogliere tutte le recensioni
    reviews_data = []


    while True:
        # Parametri per la richiesta API
        params = {
            'filter': 'recent',
            'language': 'all',
            'review_type': 'all',
            'purchase_type': 'all',
            'num_per_page': 100,
            'cursor': cursor,
            'json': 1
        }

        # Genera la query string
        query_string = urllib.parse.urlencode(params)
        request_url = f'https://store.steampowered.com/appreviews/{app_id}?{query_string}'

        print(f"Effettuo richiesta a: {request_url}")
        st.write(f"Effettuo richiesta a: {request_url}")

        # Effettua la richiesta
        response = requests.get(request_url)

        # Se la richiesta non va a buon fine, interrompi
        if response.status_code != 200:
            print("Errore nella richiesta:", response.status_code)
            break

        # Converte la risposta in JSON
        data = response.json()

        # Se non ci sono recensioni, esce dal ciclo
        if not data.get('reviews') or len(data['reviews']) == 0:
            print("Nessuna recensione trovata, fine ciclo.")
            break


        # Aggiorna il cursore per la prossima pagina
        cursor = data.get('cursor')


        # Processa ogni recensione
        for review in data['reviews']:
            # Conversione del timestamp in data formattata
            timestamp = review.get('timestamp_created')
            review_date = datetime.datetime.fromtimestamp(timestamp).strftime('%Y.%m.%d %H:%M') if timestamp else ''


            # Costruisce il dizionario dei dati della recensione
            reviews_data.append({
                'Review ID': review.get('recommendationid'),
                'Language': review.get('language'),
                'Date Posted': review_date,  # già convertito in formato "YYYY.MM.DD HH:MM" precedentemente
                'Timestamp Updated': datetime.datetime.fromtimestamp(review.get('timestamp_updated')).strftime("%Y-%m-%d %H:%M:%S") if review.get('timestamp_updated') else '',
                'Recommended': '1' if review.get('voted_up') else '0',
                'Steam Purchase': '1' if review.get('steam_purchase') else '0',
                'Weighted Vote Score': review.get('weighted_vote_score'),
                'Votes Up': review.get('votes_up'),
                'Votes Funny': review.get('votes_funny'),
                'Comment Count': review.get('comment_count'),
                'Received For Free': '1' if review.get('received_for_free') else '0',
                'Written During Early Access': '1' if review.get('written_during_early_access') else '0',
                'Primarily Steam Deck': '1' if review.get('primarily_steam_deck') else '0',
                'Review Text': review.get('review'),
                # Informazioni sull'autore
                'Author SteamID': review.get('author', {}).get('steamid'),
                'Num Games Owned': review.get('author', {}).get('num_games_owned'),
                'Num Reviews': review.get('author', {}).get('num_reviews'),
                'Playtime Forever': review.get('author', {}).get('playtime_forever'),
                'Playtime Last Two Weeks': review.get('author', {}).get('playtime_last_two_weeks'),
                'Playtime At Review': review.get('author', {}).get('playtime_at_review'),
                'Last Played': datetime.datetime.fromtimestamp(review.get('author', {}).get('last_played')).strftime("%Y-%m-%d %H:%M:%S") if review.get('author', {}).get('last_played') else ''
            })


        # (Facoltativo) Attende un attimo per non sovraccaricare l'endpoint
        time.sleep(1)


    # Crea un DataFrame dai dati raccolti
    df_reviews = pd.DataFrame(reviews_data)

    return df_reviews


# Funzione per la tokenizzazione usando nltk e rimuovere le stopwords
def clean_text(text):
    # Tokenizza il testo usando nltk
    tokens = word_tokenize(str(text).lower())
    
    # Rimuovi le stopwords dal testo
    filtered_tokens = [word for word in tokens if word not in all_stopwords]
    
    return ' '.join(filtered_tokens)

############################################ Interfaccia

# Interfaccia Streamlit
st.title("Steam Review Dashboard")

# Aggiungi un pulsante di reset
if st.button("Resetta Dashboard"):
    # Ripristina sessione e variabili
    st.session_state.clear()
    st.experimental_rerun()  # Ricarica la pagina per resettare tutto


# Carica o scarica le recensioni
app_id = st.text_input("Inserisci l'App ID di Steam (può impiegare alcuni minuti):", "")

if st.button("Scarica Recensioni (salva e poi ricarica il file)"):
    if app_id:
        df = download_steam_api(app_id)
        st.session_state.df = df # Salva il DataFrame in session_state
        st.write("Recensioni scaricate con successo!")
        #st.write(df.head())  # Mostra le prime righe per il controllo
    else:
        st.error("Inserisci un App ID valido.")

# Carica un file CSV
uploaded_file = st.file_uploader("Carica un file CSV", type=["csv"])

if uploaded_file is not None:
    df = pd.read_csv(uploaded_file)
    st.session_state.df = df # Salva il DataFrame in session_state
    #st.write("Prime righe del file caricato:", df.head())

# Mostra un'opzione per scaricare il DataFrame
def download_csv(df):
    csv = df.to_csv(index=False)
    st.download_button(
        label="Scarica il CSV (fallo alla fine)",
        data=csv,
        file_name="steam_reviews.csv",
        mime="text/csv"
    )

# Pulsante per scaricare il CSV
if 'df' in locals():
    df = st.session_state.df
    download_csv(df)



    
##############à Messaggio

    # Calcola il volume totale di recensioni
    volume = len(df)

    # Calcola il numero di recensioni raccomandate (1) e non raccomandate (0)
    totpos = df['Recommended'].astype(int).sum()  # Assumendo che 1 = raccomandato
    totneg = volume - totpos  # Il resto sono non raccomandate

    # Calcola la percentuale di recensioni raccomandate e non raccomandate
    percentpos = (totpos / volume) * 100
    percentneg = (totneg / volume) * 100

    # Trova le date minime e massime
    mindate = df['Date Posted'].min()
    maxdate = df['Date Posted'].max()

    # Calcola il numero di recensioni per lingua
    lingua_counts = df['Language'].value_counts()
    primalingua = lingua_counts.index[0] if len(lingua_counts) > 0 else "N/D"
    totperclingua1 = lingua_counts.iloc[0] if len(lingua_counts) > 0 else 0
    secondalingua = lingua_counts.index[1] if len(lingua_counts) > 1 else "N/D"
    totperclingua2 = lingua_counts.iloc[1] if len(lingua_counts) > 1 else 0
    terzalingua = lingua_counts.index[2] if len(lingua_counts) > 2 else "N/D"
    totperclingua3 = lingua_counts.iloc[2] if len(lingua_counts) > 2 else 0

    # Format della frase
    message = (f"Per il file caricato ho trovato {volume} recensioni, "
               f"di cui il {percentpos:.2f}% raccomandate e il {percentneg:.2f}% non raccomandate, "
               f"comprese tra {mindate} e {maxdate}, principalmente in {primalingua} ({totperclingua1}), "
               f"{secondalingua} ({totperclingua2}) e {terzalingua} ({totperclingua3}).")
    
    # Visualizza la frase
    st.write(message)

    
    
################àà Filtro iniziale

    df['Review Text'] = df['Review Text'].apply(lambda x: clean_text(x))
    # Visualizza le prime righe del DataFrame
 
    
    
    # Filtro iniziale per lingua
    if 'language_filter' not in st.session_state:
        st.session_state.language_filter = 'Tutti'

    language_filter = st.selectbox("Seleziona la lingua o tutte le lingue", ['Tutti'] + df['Language'].unique().tolist(), index=0 if st.session_state.language_filter == 'Tutti' else df['Language'].unique().tolist().index(st.session_state.language_filter))

    if language_filter != 'Tutti':
        df_filtered = df[df['Language'] == language_filter]
        st.session_state.language_filter = language_filter
    else:
        df_filtered = df
        st.session_state.language_filter = 'Tutti'


#### Plot dataframe

    # Ordina inizialmente per "Votes Up"
    df_sorted = df_filtered.sort_values(by='Votes Up', ascending=False)

    # Permetti all'utente di scegliere il criterio di ordinamento
    sort_by = st.selectbox(
        "Scegli la colonna per ordinare",
        ['Votes Up', 'Votes Funny', 'Comment Count', 'Num Games Owned'],
        index=0
    )

    # Ordina il DataFrame in base alla scelta dell'utente
    df_sorted = df_sorted.sort_values(by=sort_by, ascending=False)

    # Mostra un selettore per quante righe visualizzare
    num_rows = st.slider("Seleziona il numero di righe da visualizzare", min_value=5, max_value=50, value=5)

    col_plot_sort = ['Review Text','Recommended','Date Posted','Language','Votes Up', 'Votes Funny', 'Comment Count', 'Num Games Owned','Last Played']
    # Visualizza le prime righe del DataFrame ordinato e filtrato
    st.write(f"Prime {num_rows} righe del file caricato (ordinate per {sort_by}):", df_sorted[col_plot_sort].head(num_rows))

        
##### **Pie Chart per la distribuzione delle recensioni (Raccomandato vs Non Raccomandato)**
    st.subheader("Distribuzione delle Recensioni per Raccomandazione")
    fig_pie = px.pie(df_filtered, names='Recommended', title='Distribuzione Raccomandazione delle Recensioni')
    st.plotly_chart(fig_pie)

##### **Serie Temporale delle recensioni**
    st.subheader("Serie Temporale delle Recensioni")
    df_filtered['Date Posted'] = pd.to_datetime(df_filtered['Date Posted'], errors='coerce')  # Assicurati che la colonna 'Date Posted' sia di tipo datetime
    df_filtered['Date'] = df_filtered['Date Posted'].dt.date  # Estrai solo la data (senza l'ora)

    # Seleziona la granularità (giorno, mese, anno)
    time_granularity = st.selectbox("Seleziona la granularità della serie temporale", ["Giorno", "Mese", "Anno"])

    # Aggrega le recensioni in base alla granularità scelta
    if time_granularity == "Giorno":
        df_time_series = df_filtered.groupby('Date').size().reset_index(name='Recensioni')
    elif time_granularity == "Mese":
        df_filtered['Month'] = df_filtered['Date Posted'].dt.to_period('M')
        df_filtered['Month'] = df_filtered['Month'].astype(str)  # Converte Period in stringa
        df_time_series = df_filtered.groupby('Month').size().reset_index(name='Recensioni')
    else:
        df_filtered['Year'] = df_filtered['Date Posted'].dt.year
        df_time_series = df_filtered.groupby('Year').size().reset_index(name='Recensioni')

    # Selezione per split Recommended vs Non Recommended
    split_by_recommended = st.radio("Vuoi suddividere la serie temporale per Raccomandazione?", ('No', 'Sì'))

    if split_by_recommended == 'Sì':
        df_recommended = df_filtered[df_filtered['Recommended'] == 1]
        df_not_recommended = df_filtered[df_filtered['Recommended'] == 0]

        # Aggrega separatamente per "Recommended" e "Not Recommended"
        if time_granularity == "Giorno":
            df_recommended_ts = df_recommended.groupby('Date').size().reset_index(name='Recensioni')
            df_not_recommended_ts = df_not_recommended.groupby('Date').size().reset_index(name='Recensioni')
        elif time_granularity == "Mese":
            df_recommended_ts = df_recommended.groupby('Month').size().reset_index(name='Recensioni')
            df_not_recommended_ts = df_not_recommended.groupby('Month').size().reset_index(name='Recensioni')
        else:
            df_recommended_ts = df_recommended.groupby('Year').size().reset_index(name='Recensioni')
            df_not_recommended_ts = df_not_recommended.groupby('Year').size().reset_index(name='Recensioni')

        # Crea i grafici separati per Recommended e Not Recommended
        fig_recommended = px.line(df_recommended_ts, x=df_recommended_ts.columns[0], y='Recensioni', title='Recensioni Raccomandate nel Tempo')
        fig_not_recommended = px.line(df_not_recommended_ts, x=df_not_recommended_ts.columns[0], y='Recensioni', title='Recensioni Non Raccomandate nel Tempo')

        st.plotly_chart(fig_recommended)
        st.plotly_chart(fig_not_recommended)
    else:
        # Mostra la serie temporale aggregata per tutti
        fig_time_series = px.line(df_time_series, x=df_time_series.columns[0], y='Recensioni', title='Numero di Recensioni nel Tempo')
        st.plotly_chart(fig_time_series)

##################################################################################
        
        
    # **Generazione dei barplot per le parole più frequenti**
    st.subheader("Le 20 Parole più Frequenti nelle Recensioni")

    # Impostazione dell'utente per decidere quante parole visualizzare
    n_words = st.slider("Seleziona il numero di parole da visualizzare", min_value=5, max_value=50, value=20)
   
    def counter_words(df_counter,n_words):
        
        df_counter['Review Text'] = df_counter['Review Text'].astype(str) 
        
        # Filtro delle recensioni raccomandate (1) e non raccomandate (0)
        df_counter['Recommended'] = df_counter['Recommended'].astype(str)  # Converte in stringa
        df_recommended     = df_counter[df_counter['Recommended'] == '1']
        df_not_recommended = df_counter[df_counter['Recommended'] == '0']


        # Funzione per estrarre le parole più frequenti usando TfidfVectorizer
        def get_most_common_words(text_data, n):
            # Usa TfidfVectorizer per tokenizzare e contare le parole
            #vectorizer = TfidfVectorizer(stop_words='english', max_features=n)
            vectorizer = TfidfVectorizer(stop_words='english', max_features=n)
            X = vectorizer.fit_transform(text_data)
            word_freq = dict(zip(vectorizer.get_feature_names_out(), X.toarray().sum(axis=0)))
            return word_freq

        # Estrai il testo delle recensioni
        text_recommended = df_recommended['Review Text'].dropna()
        text_not_recommended = df_not_recommended['Review Text'].dropna()

        print(text_recommended)
        print(text_not_recommended)
        
        # Ottieni le parole più frequenti
        recommended_word_freq = get_most_common_words(text_recommended, n_words)
        not_recommended_word_freq = get_most_common_words(text_not_recommended, n_words)

        # Ordina le parole in ordine decrescente di frequenza
        recommended_word_freq = dict(sorted(recommended_word_freq.items(), key=lambda item: item[1], reverse=True))
        not_recommended_word_freq = dict(sorted(not_recommended_word_freq.items(), key=lambda item: item[1], reverse=True))
        
        return recommended_word_freq,not_recommended_word_freq
    
    recommended_word_freq,not_recommended_word_freq = counter_words(df_filtered,n_words)

    # Crea i plot delle parole più frequenti
    fig, axes = plt.subplots(1, 2, figsize=(12, 6))

    # Parole più frequenti per recensioni raccomandate (1)
    ax = axes[0]
    ax.bar(recommended_word_freq.keys(), recommended_word_freq.values())
    ax.set_title("Parole più frequenti (Raccomandate)")
    ax.set_xticklabels(recommended_word_freq.keys(), rotation=90, ha='center')  # Etichette verticali

    # Parole più frequenti per recensioni non raccomandate (0)
    ax = axes[1]
    ax.bar(not_recommended_word_freq.keys(), not_recommended_word_freq.values())
    ax.set_title("Parole più frequenti (Non Raccomandate)")
    ax.set_xticklabels(not_recommended_word_freq.keys(), rotation=90, ha='center')  # Etichette verticali

    # Mostra il grafico
    st.pyplot(fig)
    

##################################################################################

    # **Generazione di scattertext**
    st.subheader("Analisi dei Termini più Frequente con Scattertext")
    st.write('Se dovesse dare errore prova a selezionare una lingua')
    
    def scatter_text(df_scat):
    
        # Converte 'Recommended' in stringhe per garantire la compatibilità con scattertext
        df_scat['Recommended'] = df_scat['Recommended'].astype(str)  # Converte in stringa

        
        
        df_scat = df_scat[df_scat['Recommended'].isin(['0', '1'])]

        df_scat['Review Text'] = df_scat['Review Text'].fillna('').astype(str)
        df_scat = df_scat.dropna(subset=['Review Text', 'Recommended'])


        
        # Crea un Corpus usando scattertext con la funzione custom di tokenizzazione
        corpus = CorpusFromPandas(df_scat, category_col='Recommended', text_col='Review Text', 
                                  nlp=whitespace_nlp).build()

        # Usa scattertext per generare l'explorer
        html = stx.produce_scattertext_explorer(
            corpus,
            category='1',  # Categoria positiva (se '1' è "Recommended")
            category_name='Recensioni Raccomandate',  # Nome per la categoria positiva
            not_category_name='Recensioni Non Raccomandate',  # Nome per la categoria negativa
            minimum_term_frequency=5,  # Frequenza minima per i termini
            width_in_pixels=700,  # Larghezza del grafico in pixel
            metadata=df_scat['Review Text']  # Metadati per il grafico
        )


        return html

    html = scatter_text(df_filtered)
    # Mostra il grafico HTML generato da scattertext
    st.components.v1.html(html, height=800)