import gradio as gr from transformers import AutoTokenizer, AutoModelForSequenceClassification import torch # Загрузка модели и токенизатора model_name = "data-silence/any-news-classifier" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForSequenceClassification.from_pretrained(model_name) # Перевод модели в режим оценки device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model = model.to(device) model.eval() # Словарь для маппинга индексов на категории id2label = { 0: 'climate', 1: 'conflicts', 2: 'culture', 3: 'economy', 4: 'gloss', 5: 'health', 6: 'politics', 7: 'science', 8: 'society', 9: 'sports', 10: 'travel' } def predict(text): inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device) with torch.no_grad(): outputs = model(**inputs) predicted_label_id = outputs.logits.argmax(-1).item() predicted_label = id2label[predicted_label_id] # Получаем вероятности для всех классов probabilities = torch.nn.functional.softmax(outputs.logits, dim=-1) probs_dict = {id2label[i]: float(prob) for i, prob in enumerate(probabilities[0])} return predicted_label, probs_dict # Создание интерфейса Gradio iface = gr.Interface( fn=predict, inputs=gr.Textbox(lines=5, label="Enter news text | Введите текст новости"), outputs=[ gr.Label(label="Predicted category | Предсказанная категория"), gr.Label(label="Category probabilities | Вероятности категорий") ], title="News Classifier | Классификатор новостей", description="Enter the news text in any language and the model will predict its category. | Введите текст новости на любом языке, и модель предскажет её категорию" ) iface.launch()