Microsoft удалила из Сети новую модель ИИ. Они забыли ее протестировать «на токсичность»
Microsoft выпустила WizardLM-2, новую версию искусственного интеллекта WizardLM, и в тот же день удалила ее из сети из-за отсутствия тестов на токсичность. Разработчики, по их же собственному признанию, просто «забыли» провести тестирование.
Тестирование на токсичность не пройдено
Microsoft выпустила WizardLM-2, преемника модели искусственного интеллекта WizardLM, 15 апреля 2024 г., но в тот же день удалила его из сети, пишет журнал PCMag.
В ответ на вопрос одного из пользователей X они написали, что просто забыли о «необходимом тестировании». «В настоящее время мы быстро завершаем это испытание, а затем перевыпустим нашу модель как можно скорее», — говорилось в сообщении.
WizardLM-2 состоит из трех разных версий, получивших названия 8x22B, 70B и 7B. Создатели WizardLM-2 сравнили версию 8x22B с версией OpenAI GPT-4 и пришли к выводу, что их модель лишь «немного отстает» в одном тесте производительности.
Пострадавшие пока не обнаружены
«Мы ценим прозрачность WizardLM в отношении причин удаления модели и с нетерпением ждем ее повторной загрузки на благо сообщества», — заявил изданию представитель платформы данных ИИ Hugging Face, где собраны open source-решения.
Файлы WizardLM-2 были удалены на GitHub и Hugging Face. Теперь оба репозитория содержат ссылки с ошибками 404.
Возможно, это произошло слишком поздно, пишет издание. По информации Алона Бохмана (Alon Bochman), который ранее работал главным менеджером программы в команде машинного обучения Azure (облачная платформа Microsoft), «десятки разработчиков с открытым исходным кодом» успели загрузить удаленную модель WizardLM-2. Представляют ли исходные или модифицированные версии какой-либо риск для пользователей, пока неясно.
Проблемы с безопасностью
В апреле 2024 г. CNews писал, что Совет по оценке кибербезопасности США опубликовал разгромный отчет об оплошностях и ошибках Microsoft, из-за которых в 2023 г. стал возможен взлом электронной почты американских чиновников и кража десятков тысяч их писем.
Известно, что атака затронула электронную почту министра торговли Джины Раймондо (Gina Raimondo) и других чиновников Министерства торговли, а также члена палаты представителей США Дона Бэкона (Don Bacon) и посла США в Китае Николаса Бернса (Nicholas Burns). В общей сложности 60 тыс. электронных писем было украдено из 10 учетных записей Госдепартамента США.
«Культура безопасности Microsoft неадекватна и требует капитального ремонта», — говорилось в 34-страничном документе, перечислявшем целый ряд ошибок Microsoft, которых можно было избежать, и которые позволили этому вторжению увенчаться успехом.
Через неделю после выхода отчета в TechCrunch появилось сообщение о новой проблеме безопасности Microsoft.
На сервере хранения Azure размещался код, сценарии и файлы конфигурации, содержащие пароли, ключи и учетные данные, используемые сотрудниками Microsoft для доступа к другим внутренним базам данных и системам.
Сам сервер хранения не был защищен паролем, и к нему мог получить доступ любой человек в интернете.