Source: MIL-OSI Russian Language News
Source: State University Higher School of Economics – Государственный университет "Высшая школа экономики" –
— Что такое генеративный искусственный интеллект?
— Генеративные модели (GenAI) — это тип искусственного интеллекта, который создает текст, код, изображения, музыку и другой контент в ответ на подсказки (промпты).
Такие модели обучаются на больших объемах данных, наблюдая и сопоставляя закономерности. Например, если мы покажем модели миллионы картинок светофора, то постепенно она начнет понимать, что светофор — это прямоугольная коробочка с красной, желтой и зеленой лампочками.
В основном генеративный ИИ используется для создания контента. Школьники пишут сочинения, маркетологи составляют планы продвижения — вариантов много. Но вместе с тем наши представления об искусственном интеллекте сильно искажены популярной культурой. Нам кажется, что он в лучшем случае решит все наши проблемы, а в худшем — поработит нас. Ни того ни другого в ближайшее время не случится.
Существующие модели не заменят вас на работе (к сожалению или к счастью), но могут стать личным помощником в рутинных делах: например, написать за вас имейл, вычитать текст, проанализировать табличные данные, обобщить большие тексты или видео.
— Как генерируются тексты? Почему ИИ может, например, выдавать ложные факты?
— Тексты создаются с помощью языковых моделей. Они обучаются на больших объемах текстов, могут улавливать нюансы языка. Система получает задание (промпт), обрабатывает его и возвращает ответ. Эту модель можно представить в виде этакого мудреца, который прочитал все книги в мире и может по памяти воспроизвести ответ на любой вопрос.
Однако у моделей есть так называемые галлюцинации — именно из-за них случаются ошибки. Например, вы попросите модель написать сочинение про великого писателя Нейрона Нейроновича Нейронова. Модель с удовольствием расскажет вам, какой гениальный это писатель, и даже составит список его книг. Так происходит, когда у ИИ не хватает знаний по теме, и он, как студент, который не готовился к экзамену, начинает врать. Такое может происходить и из-за случайных сбоев в системе.
— Как генерируются картинки? Почему иногда у изображений есть артефакты?
— Картинки генерируются из шума (пустого изображения). Постепенно модель улучшает его по подсказке (промпту), пока не получится изображение, похожее на то, что просил сделать пользователь.
Обычно у сгенерированных картинок есть проблемы с отрисовкой людей: лишние руки-ноги, полная симметрия лица (эффект зловещей долины), разные глаза, странные улыбки и так далее. Чем больше деталей в изображении, тем хуже модель будет справляться с задачей.
Самое простое решение — просить модель рисовать человека в таких позах, где не видны руки и ноги, или просить нарисовать портрет.
— Какова роль человека в управлении ИИ, если говорить об обычном пользователе?
— Сейчас нам нужно учиться общаться с сервисами генеративного ИИ. Может показаться, что задавать вопрос в чате и получать ответы достаточно просто. Но чтобы получить действительно качественный ответ, нужно учиться промпт-инжинирингу, то есть искусству правильно составлять вопросы для машины. Существует даже целая профессия — промпт-инженер.
Сейчас можно найти огромное количество учебников по промптам, где научат правильно составлять запросы в форматах суммаризации, позиционных форматах, с описанием контекста, с описанием инструкций. Это целая наука.
На курсе мы как раз рассказываем и о том, как пользоваться промптами, и учимся глубже понимать их работу.