Илон Маск не раз высказывался о том, что ИИ – это главная угроза человечеству.
Фото: REUTERS
Сегодня мы наблюдаем редкий случай, когда реальная научная технология – искусственный интеллект (ИИ) – отодвинула на периферию массового сознания прежних властителей дум: Бермудский треугольник, снежного человека и зеленых человечков. Адепты новой веры говорят, что через 20 лет не будет ни кино, ни театра, а будет сплошной искусственный интеллект, который превратит в рай жизнь на земле. Другие добавляют, что ИИ не остановится на кино и театре, а непременно поработит человечество. А чего ждать от ИИ на самом деле: светлого будущего или ужасного? Об этом мы поговорили с Владимиром Арлазаровым, доктором технических наук, доцентом, заведующим отделом Федерального исследовательского центра «Информатика и управление» РАН, генеральным директором компании Smart Engines. И его коллегой, техническим директором Smart Engines, доктором технических наук Дмитрием Николаевым, ведущим российским ученым в области обработки изображений, технического зрения и вычислительной томографии.
– Илон Маск не раз высказывался о том, что ИИ – это главная угроза человечеству. Но недавно в ходе конференции, которая называлась "Великие дебаты по искусственному интеллекту", он переобулся и заявил, что на самом деле все не так плохо, и шансы, что ИИ угробит цивилизацию, не превышают 10-20 процентов. Почему Маска бросает из огня да в полымя?
Николаев: – Если приглядеться к бурным дебатам по поводу ИИ, то можно увидеть, что накал страстей и взаимное непонимание происходят, поскольку в обществе есть три группы лиц с разными устремлениями и разным уровнем понимания. Первая группа — это условные капиталисты, которым хочется, чтобы дешевый ИИ заменил высокооплачиваемые категории сотрудников. Поэтому, в частности, большие языковые модели (знаменитая ChatGPT относится к ним) затачиваются под программирование. Ведь размер заработной платы, которую капиталист отдает программисту, его категорически не устраивает.
Арлазаров: – На самом деле это нормальная ситуация. Любой генеральный директор хочет больше зарабатывать и меньше тратить. И вот он смотрит на зарплаты сотрудников и видит, что, к примеру, фасовщик получает 5 долларов в час, а программист – 300-400 долларов в час. Потом приходят люди, которые говорят, что могут заменить программиста дешевой технологией. Естественно, бизнесмен вложит в этот проект деньги.
Николаев: – Вторая группа влияния – это чиновники, их жизнь экономически устроена иначе. Эту группу сильных мира сего охмуряют обещаниями, что можно искусственным интеллектом заменить управленческие процессы. И тогда можно получать оклад, но ничего не делать. При этом чиновники почему-то надеются, что они сохранятся в качестве посредника. Они будут спрашивать ChatGPT: как нам обустроить Россию? А потом рассказывать гражданам, что ответил электронный оракул.
– А третья группа?
Николаев: – Это обычные люди, которые живут своей жизнью. Для них образ ИИ – это образ машины времени. Мы все очень хотим попасть в чудесное будущее ещё при нашей жизни, и чаще всего продавцы искусственного интеллекта продают именно будущее, рисуют нам его картину. Но будущее хорошо продается, если оно либо прекрасно, либо ужасно. Никому не нужно будущее, которое так же серо, как день в офисе. И оголтелый спор между прогрессистами и всепропальщиками – всего лишь частный спор вокруг безусловно яркого и волшебного будущего, которое якобы уже на пороге. И поэтому Илона Маска так легко бросает из стороны в сторону.
– Получается, Илон Маск – обыватель?
Арлазаров: – В этой дискуссии он ведет себя как обыватель. Потому что ничего человеческое ему не чуждо. А с другой стороны – он технологический миллиардер, и часть денег, которые крутятся в сфере ИИ, это деньги Илона Маска (например, компания Open AI – создатель ChatGPT, была основана Маском – авт). Поэтому, как обыватель, он часто делает заявления в духе "шеф, все пропало!", а, с другой стороны, видит, что после таких спичей падают акции его компаний-разработчиков ИИ. И он вынужден делать заявления, противоположные первому. Причина его метаний, скорее, лежит в плоскости бизнес-интересов.
Николаев – При этом, как продавец будущего, Маск знает, что противоречить самому себе не страшно. Страшно продавать не ужасное или прекрасное будущее, а такое, где жизнь не поменяется, где завтра будет, как вчера. Такое будущее не продается.
Арлазаров: – Хотя для обывателей есть еще более страшные вещи.
– Какие?
Арлазаров: – Например, все думают, что искусственный интеллект есть. А его нет.
– Как это нет? А беспилотные автомобили, а диагностические алгоритмы, которые работают в поликлиниках?
Арлазаров: – А вы знаете, что одним из самых крупных провалов корпорации IBM был искусственный медик Watson? Они всех убедили, что это непогрешимая компьютерная супер-машина все знает лучше доктора. И врачи ставили диагнозы, которые предлагала машина, хотя они были не согласны с ней. А потом выяснилось, что Watson убивает.
– То есть ставит неправильные диагнозы?
– Совершенно верно, машина ошибалась и убивала таким образом пациентов. Проект был закрыт, и уровень доверия к таким диагностическим системам резко упал. И не только за рубежом. У нас в России был бум на стартапы, которые занимались поддержкой диагноза, особенно для онкологии. И буквально пару месяцев назад регулирующие органы запретили использовать один из продуктов, который все рекламировали, как чуть ли не как панацею.
– Вы имеете в виду программу Botkin.AI?
Арлазаров. – Да. Понимаете, когда речь заходит об ИИ, мы часто имеем дело с подменой понятий. Искусственный интеллект – великолепная технология. Но на технологии вы никуда не уедете.
– В каком смысле?
Николаев: – Представьте, что у вас есть технология двигателя внутреннего сгорания. Вы сможете сесть на двигатель и поехать на дачу? Нет, конечно. Вам нужен автомобиль, который состоит из миллиона деталей, которые к двигателю внутреннего сгорания никак не относятся. Нужна сеть заправок, разветвленная сеть сервисных центров. Нужна целая линейка транспортных средств, от легковушки и грузовика до автобуса и экскаватора. Для этого надо построить заводы, то есть нужна развитая индустрия. А у нас не только обыватели, но и разработчики иногда делают вид, что можно создать искусственный интеллект, который одной рукой ставит диагнозы, а другой – управляет беспилотным автомобилем. Но так не бывает. Вот вы наверняка слышали про искусственный интеллект, который лечит рак или ковид. А вы что-нибудь знаете про нейросеть, которая лечит насморк?
– Наверное, лечить что-то простое экономически не выгодно?
Николаев: – Ровно наоборот. Замена 30-40 тысяч сельских врачей автоматом даст колоссальный экономический и социальный эффект. Очевидно, что искусственный доктор должен лечить самое простое, где все кристально понятно и легко поймать ИИ за руку, если он "накосячит". А в 5% сложных случаев он будет отправлять деревенских жителей на консультацию в город. Но ведь никто не даст инвестиции под алгоритм, который выписывает капли от насморка. Зато деньги легко дадут под лечение рака, потому что в PR-плоскости это несопоставимые вещи. Хотя очевидно, что нужно начинать не со сложного, а с простого: взять одну понятную болезнь и долго над ней работать. Потом вторую и так далее.
– Сейчас некоторые эксперты говорят: первоначальные ожидания оказались нереалистичными, и мы видим первые признаки того, что генеративный ИИ может оказаться бесполезным. Ожидали триллионные прибыли, а получили миллиардные. Начинается очередная зима искусственного интеллекта?
Арлазаров: – Это еще не зима, но она уже видна. Так всегда происходит, когда вслед за завышенными обещаниями выясняется, что разрекламированного прорыва не произошло. И спад интереса среди тех, кто инвестирует в искусственный интеллект, неизбежен.
Николаев: – Когда начнется зима ИИ, решают не ученые, а инвесторы. Здесь вопрос в том, когда кончатся ресурсы у тех, кто управляет мировой экономикой. Мы не экономисты, но видно, что ее лихорадит.
Арлазаров: – И второе: на место искусственного интеллекта может прийти другая технология. Например, через год китайцы объявят, что у них в токамаке началась самоподдерживающаяся термоядерная реакция. А, значит, готова технология производства дешёвой, безопасной, экологически чистой энергии. Или Маск объявит, что готова ракета для колонизации Марса. И тогда обустраивать рай на соседней планете побегут все – и мы, и американцы.
Николаев: – Кстати, культура фронтира, распахивания целины свойственна нациям, которые живут на больших диких пространствах, где много места и мало населения. Если мы посмотрим на историю последних двух-трех веков, то в Америке это было заселение и развитие Дикого Запада. А в Европе и Азии – расширение на восток Российской Империи, а затем и Советского Союза. Освоение целины, БАМ и так далее. Эта идея колонизации пространства гораздо приятнее, чем идея конкуренции, а в конечном счете – идеи войны.
Арлазаров: – И в этом случае зима искусственного интеллекта будет во благо цивилизации. Потому что колонизация Марса – это способ предотвращения войн на Земле. Сверхдержавы будут не делить клочок земли, а осваивать целую планету.
СЛУШАЙТЕ ТАКЖЕ
Искусственный интеллект на тропе войны: как сегодня применяют ИИ на поле боя (подписывайтесь на наши подкасты)