dev: deploy
Browse files- pages/News.py +10 -5
pages/News.py
CHANGED
|
@@ -67,10 +67,10 @@ with c1:
|
|
| 67 |
#df = load_ds('jpan')
|
| 68 |
#st.dataframe(df)
|
| 69 |
|
| 70 |
-
|
| 71 |
|
| 72 |
-
|
| 73 |
-
|
| 74 |
|
| 75 |
|
| 76 |
#access_token = os.getenv('MDL_TKN')
|
|
@@ -91,11 +91,15 @@ with c1:
|
|
| 91 |
print('Embedding da mídia {0} carregada com sucesso com tamanho {1}'.format(media, embeddings.shape))
|
| 92 |
'''
|
| 93 |
|
|
|
|
|
|
|
| 94 |
embedding_nm = load_dataset('strauss-oak/embeddings')
|
|
|
|
|
|
|
| 95 |
embedding_nm = embedding_nm.with_format("np")
|
| 96 |
rows, cols = embedding_nm.shape
|
| 97 |
print('Embedding da mídia {0} carregada com sucesso com tamanho {1}'.format(media, embedding_nm.shape))
|
| 98 |
-
|
| 99 |
|
| 100 |
|
| 101 |
'''
|
|
@@ -105,13 +109,14 @@ with c1:
|
|
| 105 |
print('NOK - Embeddings and dataset length error')
|
| 106 |
'''
|
| 107 |
|
| 108 |
-
|
| 109 |
topic_model = BERTopic.load("strauss-oak/mdl_bertopic_globo", embeddings=embeddings)
|
| 110 |
|
| 111 |
new_news = ['O fluminese vencerá o Manchester City no jogo de futebol?']
|
| 112 |
topics_novos, prob = topic_model.transform(new_news)
|
| 113 |
topics_novos
|
| 114 |
st.info(topics_novos)
|
|
|
|
| 115 |
|
| 116 |
|
| 117 |
|
|
|
|
| 67 |
#df = load_ds('jpan')
|
| 68 |
#st.dataframe(df)
|
| 69 |
|
| 70 |
+
dataset = load_dataset("strauss-oak/observatory-brazilian-news")
|
| 71 |
|
| 72 |
+
df = pd.DataFrame.from_dict(dataset["train"])
|
| 73 |
+
st.dataframe(df)
|
| 74 |
|
| 75 |
|
| 76 |
#access_token = os.getenv('MDL_TKN')
|
|
|
|
| 91 |
print('Embedding da mídia {0} carregada com sucesso com tamanho {1}'.format(media, embeddings.shape))
|
| 92 |
'''
|
| 93 |
|
| 94 |
+
'''
|
| 95 |
+
embedding_nm = load_dataset('strauss-oak/embeddings')
|
| 96 |
embedding_nm = load_dataset('strauss-oak/embeddings')
|
| 97 |
+
embedding_nm = load_dataset('text', data_files='embedding_globo_paraphrase-multilingual-mpnet-base-v2.npy')
|
| 98 |
+
|
| 99 |
embedding_nm = embedding_nm.with_format("np")
|
| 100 |
rows, cols = embedding_nm.shape
|
| 101 |
print('Embedding da mídia {0} carregada com sucesso com tamanho {1}'.format(media, embedding_nm.shape))
|
| 102 |
+
'''
|
| 103 |
|
| 104 |
|
| 105 |
'''
|
|
|
|
| 109 |
print('NOK - Embeddings and dataset length error')
|
| 110 |
'''
|
| 111 |
|
| 112 |
+
'''
|
| 113 |
topic_model = BERTopic.load("strauss-oak/mdl_bertopic_globo", embeddings=embeddings)
|
| 114 |
|
| 115 |
new_news = ['O fluminese vencerá o Manchester City no jogo de futebol?']
|
| 116 |
topics_novos, prob = topic_model.transform(new_news)
|
| 117 |
topics_novos
|
| 118 |
st.info(topics_novos)
|
| 119 |
+
'''
|
| 120 |
|
| 121 |
|
| 122 |
|