«Сбер» и разработчики Kandinsky не будут отвечать за результат работы нейросети «Ведомости» разбирались, кого можно обвинить за нарушающие закон изображения от ИИ Разработчики не должны нести ответственность за изображения, которые создает нейросеть. В частности, создаваемые алгоритмами «Сбера» Kandinsky рисунки, которые могут нарушать российское законодательство. Такая позиция «Сбера» была обозначена на встрече представителей банка с прокуратурой, рассказал «Ведомостям» источник, знакомый с обсуждением. Эта же позиция зафиксирована в пользовательском соглашении на одном из сайтов, где размещен алгоритм Kandinsky, убедились «Ведомости». Встреча с участием сотрудников банка была проведена в связи с заявлением лидера фракции «Справедливая Россия – За правду» в Госдуме Сергея Миронова. Он счел, что изображения, генерируемые алгоритмами искусственного интеллекта (ИИ) «Сбера», формируют «негативный образ России». В конце апреля он попросил генпрокурора Игоря Краснова проверить деятельность банка на соответствие контента нейросети Kandinsky законодательству. В частности, Миронов обращал внимание на то, что при запросе «Донбасс – это Россия» и «Я люблю Донбасс» на генерируемых алгоритмами картинках преобладают цвета украинского флага. При других подобных запросах ответы также не соответствовали ожиданиям Миронова. Позднее у себя в Telegram-канале депутат сообщил, что отозвал свое обращение в Генпрокуратуру, при условии что «Сбер» проведет «внутренний содержательный аудит нейросети». Алгоритмы могут по ключевым словам сгенерировать изображения, которые могут расцениваться как непатриотичные, убедились «Ведомости». По запросу «Донбасс – это Россия» Telegram-бот Kandinsky 2.2 генерирует изображение с украинским флагом. Представитель Миронова воздержался от комментариев. «Ведомости» направили запрос в Генпрокуратуру. Сбербанк рассказал о перспективах использования искусственного интеллекта в банках Один вложенный в технологию рубль принесет 8 рублей прибыли к концу 2023 года В ответ на запрос «Ведомостей» о результатах аудита и возможной ответственности для разработчиков представитель «Сбера» лишь заявил, что нейросеть Kandinsky не предназначена для генерации контента, который может причинить вред другим людям. «В работе модели применяется ряд современных фильтров, призванных исключить любые формы незаконного, неэтичного или неприемлемого использования генеративных моделей. Для этого наша команда постоянно совершенствует модель и способы модерации. Также мы рассчитываем, что именно сам пользователь будет ответственно относиться к работе с нейросетью», – добавил он. Для того чтобы обвинить кого-то в производстве или распространении противоправной информации, нужно найти конкретное лицо и доказать, что у него был прямой или косвенный умысел совершения преступления, уточняет юрист, член комитета ТПП РФ по предпринимательству в сфере медиакоммуникаций Павел Катков. Так как программированием сложных нейросетей занимаются десятки разработчиков, то найти виновного за генерацию конкретного изображения будет невозможно с юридической точки зрения, считает он. «Сегодня ИИ активно используют дети и подростки, в том числе для решения учебных задач. Нам нужно очень сильно вложиться в то, чтобы осознать, как нам жить с новым технологическим стеком. Нужно учить детей трем вещам. Первая: каждый ребенок должен знать, как работает ИИ. Вторая: он должен понимать разницу между ИИ и человеком. И третья: он должен знать, как работать с ИИ, чтобы усиливать собственные возможности» Герман Греф председатель правления Сбербанка Сейчас нейросетью «Сбера» можно воспользоваться либо через Telegram-бот, либо через официальный сайт банка. Но во втором случае пользователь автоматически будет переадресован на сайт fusionbrain.ai, где размещен алгоритм. Сайт fusionbrain.ai – это портал АНО «Институт искусственного интеллекта» (AIRI). Представители AIRI и банка говорят, что АНО выступает «научным партнером» «Сбера» в области ИИ. Перед использованием обновленной версии нейросети Kandinsky 2.2, которую «Сбер» презентовал 13 июля 2023 г., Telegram-бот предлагает принять условия пользовательского соглашения и политику конфиденциальности. «Текстовые запросы, а также графические объекты, которые вы создаете в этом боте (далее по тексту – «пользовательский контент»), не должны нарушать законодательство РФ, законодательство страны использования платформы и общепризнанные этические правила и нормы. Вся ответственность за пользовательский контент лежит на пользователе», – говорится в сообщении бота. Кто руководит Институтом искусственного интеллекта В базе «СПАРК-Интерфакс» учредители АНО не заявлены, руководителем указан Максим Еременко. Человек с такими же ФИО занимает должность директора департамента развития технологий ИИ и машинного обучения Сбербанка. Зарегистрирована АНО в одной из башен «Сбера» в Москве. В приложенном к сообщению бота файле приводится пользовательское соглашение с сайта fusionbrain.ai, из которого следует, что «администрация прямо или косвенно не гарантирует пользователю и не несет ответственности за безошибочную и бесперебойную работу платформы и/или программного обеспечения, а также не гарантирует соответствия функциональности платформы и/или ПО конкретным целям и ожиданиям пользователя». Кроме того, создатель алгоритма не отвечает за любой прямой или косвенный ущерб, возникший в связи с его использованием, и не возмещает никакие убытки. Вопрос лежит в плоскости дальнейших действий пользователя платформ, замечает руководитель направления «Разрешение It&Ip споров» юридической фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. Сам процесс создания изображения нейросетью вряд ли может исследоваться на предмет наличия состава правонарушения, поскольку генерация зависит от конкретного запроса пользователя, уточняет он. Но если тот, получив изображение, распространит его среди неограниченного круга лиц, то это может рассматриваться как неправомерные действия, подтверждает Шицле. Сейчас ни одна компания, управляющая чат-ботом (OpenAI или Google), не несет ответственности за выдачу информации, обращает внимание источник в одном из разработчиков в области ИИ. Поведение нейросети отражает те датасеты, на которых их обучали, указывает ведущий технологического Telegram-канала abloud62 Алексей Бойко. В их основе, как правило, лежат данные из интернета и, соответственно, результаты работы ИИ отражают то, чем наполнена сеть, объясняет он. Ответственность за противоправную информацию В российском законодательстве сейчас прописаны наказания за несколько типов высказываний, которые могут быть описаны как «формирующие негативный образ России» или близкие к этому. Например, за дискредитацию Вооруженных сил РФ грозит штраф для граждан в размере 30 000–50 000 руб., должностных лиц – 100 000–200 000 руб. и юрлиц – 300 000–500 000 руб. (ч. 2 ст. 2.1 КоАПа). А публичное оправдание терроризма или его пропаганда наказываются штрафом в размере 100 000–500 000 руб., либо в размере заработной платы или иного дохода осужденного за период до трех лет, либо лишением свободы на срок от двух до пяти лет (ст. 25 УК). В пользовательских соглашениях приложения «Шедеврум» от «Яндекса» и ChatGPT содержится предупреждение о том, что ответственность за результаты несет сам пользователь, обращает внимание директор по стратегическим проектам Института исследований интернета Ирина Левова. Но Kandinsky и «Шедеврум» отличны друг от друга, обращает внимание юрисконсульт практики интеллектуальной собственности юридической компании ЭБР Софья Шарыпова. Сгенерированные в «Шедевруме» изображения публикуются на сайте в открытом доступе, тогда как у Kandinsky – нет, в этом и заключается отличие в потенциальном регулировании, указывает она. Также «Шедеврум» указывает имена пользователей, сгенерировавших контент или текст для нейросети. Это позволяет отслеживать нарушения со стороны пользователей при работе с нейросетью, уточнила Шарыпова. Таким образом, ответственность для пользователя «Шедеврума» наступает в момент публикации в открытом доступе сгенерированного нейросетью изображения, т. е. за его распространение, уточняет Левова.