Атака дронов: беспилотная пилотная экономика России
Владимир Путин предложил создать правила общения искусственного разума и человека, заявив, что сейчас надо подумать над формированием свода этических правил, найти баланс между раскрытием информации и правами людей на защиту этой информации в той части, в которой люди считают необходимым защитить. Такое мнение президент РФ выразил на конференции по искусственному интеллекту (ИИ) AI Journey в Москве. По его словам, именно технологии ИИ помогут избавиться от косности и неповоротливости бюрократической машины, а также кардинально повысить прозрачность и эффективность административных процедур. От ИИ зависит создание комфортных и безопасных городов, качественной и доступной медицины, надежной транспортной системы и обороноспособности страны.
Между тем отмечу, считать, что беспилотная техника, дистанционные технологии не являются частью искусственного интеллекта и не есть как таковой ИИ, является заблуждением. И именно ИИ может являться как средством безопасности, так и опасности, вплоть до уничтожения чего-либо или кого-либо. И на повестке дня должны стоять вопросы выработки не только этических норм взаимодействия человека с ИИ, но и правовые нормы, предусматривающие ответственность за использование ИИ и прежде всего закрепляющие эту ответственность за производителями и эксплуататорами технологий.
Да, очевидно, Россия пытается догнать Китай, где в 2014 году коммунистическая партия страны запланировала к 2020 году ввести цифровой контроль над жизнью своих граждан. Примерно то же самое происходит и у нас. В России планируется ввести цифровой профиль гражданина. Пока его разработка и введение объясняется упрощением получения финансовых услуг. Но давайте обратимся к опыту Китая. В стране с декларируемой численностью населения под 1,5 млрд человек устанавливается тотальный контроль, который может, по сути, в любой момент обернуться как диктатурой, так и всецелой заботой — все будет зависеть от вменяемости руководства страны и его целей. Китай — страна с коммунистическим укладом — социально-ориентированным, а потому, возможно, диктатуру можно рассматривать вторичным фактором, а заботу — первичным. Россия же имеет на сегодня, пожалуй, лишь одну главную идею — совершить экономический рывок. Причем непонятно, что будет ожидать нас после рывка — улучшение соцпрограмм, которым противится основная масса либералов, представляющих большинство в правительстве?
Судя по монополизации наших компаний, мы можем прослеживать советскую повестку дня, как будто бы идем к Советскому Союзу, но в контексте приватизации госкомпаний и оставшихся их госдолей наоборот — мы быстрыми темпами шагаем в руки частных корпораций, причем не российских. Цифровизация экономики для избавления от бюрократии и ради безопасности может обернуться опасностью для каждого из нас. Опять же, все будет зависеть от того, кому достанется власть в стране. Здесь уже даже неважным становится факт того, кто будет у руля страны — политическая ли власть или экономическая — корпоративная, олигархическая, главное тут — вменяемость этой власти и ее цели. Когда разрабатывались первые атомные технологии, ученые понимали, на что они обрекают человечество. Сегодня преимущество у тех, кто держит в руках черный чемоданчик с ядерной кнопочкой. Помните, недавно американские конгрессмены выступали за ограничение права для Дональда Трампа на применение ядерного оружия. Они сомневались в дееспособности Трампа. Атомная бомба — средство массового поражения. ИИ может выступать не менее опасным инструментом, только имеющим «мягкую силу», но как массового поражения своих же граждан, так и выборочного — индивидуального. Но, безусловно, может и сослужить добрую службу. Опять же, подчеркну, все зависит от целей пилота, который получит контроль над большим беспилотником, в который сольются все потоки данных различных сфер жизни страны.
Китайская цифровая система предусматривает контроль над всеми сферами жизни своих граждан. Страна наблюдает за государственным, общественным и социально-сетевым поведением каждого гражданина. В результате наблюдений начисляются баллы. Почти как в школе — ведешь себя хорошо, понятие «хорошо» соответствует требованиям государства, набираешь высокий балл, совершаешь оплошности — баллы снижают. Низкий социальный рейтинг, зависящий в данном случае от балльной системы, приводит к введению ограничений — для таких людей или «нелюдей» окажутся недоступными зарубежные и междугородние поездки каким-либо или всеми видами транспорта, возможность взять кредит, соцльготы, трудоустройство на хорошую работу и т. д. и т. п. Даже неприветливость влияет на баллы. Эмоции, поведение, привычки, в том числе потребительские, контролируют системы распознавания — множество камер, собирающих информацию в одну сеть.
Да, сегодня, так или иначе, россияне имеют, как и любой другой народ любой другой страны, права, обязанности, ответственность и ограничения. Но у нас, как мы знаем, иногда перегибают палку — преднамеренно или по ошибке. Кто-то не может взять кредит, потому что его кредитная история была подпорчена несвоевременными выплатами или наличием нескольких кредитов. Кто-то, имея долги по обязательным платежам, не может выехать за границу. Кто-то находится в черных списках ЦБ и не может работать три года в финансовой сфере, потому как раньше работал на банк, у которого отозвали лицензию. Сегодня авиакомпании предлагают создать свои черные списки, и непонятно, учтут ли при этом качество услуг самой авиакомпании. Да, есть нарушители, но есть заложники ситуаций. В том числе заложники нарушителей. Есть финансово и юридически грамотные люди, а есть неграмотные. И система образования всеобщей грамотности не способствует. Да, нам требуется повышение демографической ситуации, но кто-то не хочет рожать, а кто-то не может — по здоровью. Баллы будут снижены за это? Одинаково снижены — и для тех, кто не хочет, и для тех, кто не может??? А есть еще ошибки системы — мы знаем, что бывает так, когда кредиты или задолженности были погашены гражданином, но по базе данных долги продолжают висеть, портя репутацию, не позволяя выехать человеку за границу. А вы когда-нибудь сталкивались с присвоением двух ИНН? Такие случаи бывали, хотя ИНН выдается раз на всю жизнь! Чтобы доказать, что у вас уже был ИНН и отменить действие второго, вам нужно обратиться в налоговую инспекцию с «бумажками» — паспортом и первым ИНН. А теперь представьте, нет у вас бумажного паспорта и нет бумажного ИНН. Есть электронные версии. А если электронная версия паспорта тоже оказалась ошибочной? Возможно, вы подтвердите себя фейс-контролем или как сейчас говорят — Face ID, но если и эта функция не подтвердится из-за закравшейся ошибки?! Что тогда?
Сейчас мы все должны отстаивать свои права цивилизованно — в суде. Судебная система у нас в порядке? А экспертная? Перегибов нет? Количество, характер, качество судебных исков как отразятся на присвоении баллов гражданину, потерявшему ребенка под колесами чиновника или богатого гражданина — более высокого соцстатуса, если в крови ребенка обнаружен алкоголь и этот алкоголь был обнаружен благодаря экспертам?! За неулыбчивость отцу ребенка снизят баллы? В том-то все и дело, что пока система не готова, не отлажена и не имеет четких, честных правил, пока есть бюрократия, продажность, вводить систему оценки граждан категорически нельзя. Но речи о введении такой системы у нас в стране пока не ведется. Однако ее зачатки в том или ином виде уже присутствуют в отдельных и разрозненных системах.
Давайте обратимся к беспилотникам. И к автобеспилотникам и авиадронам. Программное обеспечение беспилотных машин, как правило, включает машинное зрение и нейросети. Нейросети и есть тот самый искусственный интеллект.
Всем известный автомобиль Tesla, пользующийся магической популярностью, в мае 2016 года унес жизнь жителя города Уиллистон штата Флорида, который ехал на автопилоте. Солнечный свет, по сути, ослепил робота, и машина не рассмотрела белый впереди идущий фургон, в который и врезалась на всей скорости. Компания всего лишь выразила соболезнования первой жертве своего автомобиля и напомнила всем остальным, что автопилот не может взять на себя полное управление машиной, водитель должен контролировать ее. Следующие жертвы погибли в Калифорнии и опять — в штате Флорида. В одном из случаев говорилось, что водитель получал сигналы и предупреждения, но за несколько секунд до аварии руки водителя на руле не были обнаружены системой. Между тем ранее погибший водитель обращался в сервисную службу производителя из-за странного поведения автомобиля, но неполадок не обнаружили. В Москве Tesla не разглядела эвакуатор и, врезавшись в него на полном ходу, загорелась.
Между тем автомобили, как мы видим, имея недостатки, выезжают на загруженные дороги. С момента гибели таких водителей не появилось законодательных инициатив, устанавливающих ответственность производителя. Очевидно, пока вина за ДТП полностью лежит на владельцах машин. Однако не стоит ли задуматься об ответственности производителей искусственного разума машины? Но как в этом случае доказать его вину? Возможно, устанавливать черные ящики, как на самолетах, которые вскрывать будут независимые эксперты, но какова же будет цена такого автомобиля? Да и нужны ли технологии, неспособные все же обходиться без контроля человека? Разве, что тем, кто их изобретает, ведь это в разы повышает их прибыль!
Некоторые эксперты полагают, что мы доживем до того времени, причем очень быстро, когда появится беспилотная система, которая в случае неизбежного столкновения с толпой людей, пешеходов будет оценивать возможность минимизации числа жертв, то есть решать врезаться ей в многочисленную толпу или уйти от столкновения в сторону нескольких человек, при этом будет оцениваться и социальный статус людей. В подобных фантазиях, конечно, можно зайти далеко, но технологии не стоят на месте. И сегодня в подобных ситуациях водители также находятся в состоянии выбора, если не впадают в шок, но точно при этом не выбирают статус людей. Но в данной ситуации несет ответственность только водитель, а в случае с ИИ до сих пор неясно, кто же должен понести наказание — производитель или владелец автомашины!
Отдельная история — дроны. Вероятно, скоро они захватят воздушное пространство. Но если самолеты летают по разрешенным маршрутам и четко действующим правилам, имеют беспилотные системы и оснащены черными ящиками, за нарушение границ воздушного пространства предусмотрена ответственность, то за дронами ее не числится.
Сбербанк сообщал о разработке технологий доставки денежных средств беспилотниками, мол, услуга будет пользоваться спросом в труднодоступных районах Крайнего Севера, где есть проблемы с дорогами. Причем речь уже идет не просто о маленьких дронах, а о более массивных — с повышенной грузоподъемностью — вертолетах-беспилотниках. За возможность потери денег глава банка не опасается — так как на случай форс-мажора будет предусмотрена намеренная порча банкнот. Вот только опять же непонятно, каким образом банкноты будут восстанавливаться??? И как будет устанавливаться причастность тех или иных обстоятельств, потенциальных виновных лиц, при которых будет происходить порча или потеря средств???
Более того, все помнят недавние события, связанные с атакой дронов на нефтяные объекты Саудовской Аравии, в результате чего там начался пожар. А что, если подобные атаки будут совершаться в районе атомных станций? Разве дроны не могут нарушать границ?
На днях замдиректора Росгвардии генерал-полковник Олег Борукаев на тематическом круглом столе в Госдуме попросил о предоставлении права отстреливать дроны над охраняемыми объектами с помощью огнестрельного оружия. По мнению Борукаева, специальные технические средства, предназаченные для борьбы с беспилотными летательными аппаратами (БПЛА) слишком дорогие. Отдельные системы защиты от дронов могут стоить до 200 млн рублей. Разработки БПЛА постоянно модернизируются и средства борьбы с ними будут дорожать и вызывать растущую нагрузку на бюджет страны.
Дистанционная возможность управления лежит в основе ИИ, что в цифровой экономике, что в любых других беспилотных средствах. Своеобразная «гонка вооружений» стран, по сути, только началась. Правила гонки не установлены ни между странами, ни внутри России. Да, наша страна не может остаться в стороне. Да, технологии способны восполнить производительные силы, сокращающиеся за счет снижения рождаемости. Но, не установив правил и приоритетов, не понимая четко, для чего мы это делаем, можно зайти так далеко, что окончательно потерять людей. А победить может тот, кто создаст такую машину, которая объединит все процессы регулирования жизни человечества. По сути, все процессы можно завязать на один центр управления, который будет вести контроль над человеком, над его передвижением на беспилотниках, над самими беспилотниками и прочими роботами, вплоть до отключения этих систем дистанционно.
Не случайно Владимир Путин предложил увеличить число IT-специалистов и призвал все ведомства страны разбираться в тонкостях систем искусственного разума. А также всем IT-компаниям перейти на отечественное программное обеспечение. Ведь современные системы могут не только отслеживать действия людей.
Однако обойтись ограничительными мерами недостаточно. Нужна правовая ответственность, в том числе при переходе на цифровой формат всех отраслей страны. И соглашения граждан на передачу личных данных здесь мало. Нужна ответственность. В противном случае и число недовольных будет только расти, и количество беспредела, связанного с незаконным использованием данных. И закончиться все это может крайне печально — не только для граждан, но и для страны, причем без войны и без взаимных «атомных претензий».
Недавно СМИ сообщали о том, что университет Синергия собирал отпечатки пальцев школьников без разрешения родителей. Обоснованием для сбора биометрических данных детей была возможность предоставить им якобы более точную информацию об их профессиональных навыках, профориентации. Эксперты считают, что университет занимается лженаукой. Как бы не так. Представьте, что собранные данные перешли или были проданы в руки зарубежных компаний или спецслужб, а ваш ребенок решил поступить на службу государства Российского, стать полицейским, разведчиком, контрразведчиком. Очень сомнительно, что планы вашего ребенка пойдут по нужной траектории.
Известно, что рисунок пальцев, даже после химических ожогов, восстанавливается. Более того, формула крови имеет свойства восстанавливаться после многочисленных переливаний и пересадки костного мозга. А мы свои данные сдаем направо и налево, совершенно не понимая будущего, не понимая будущих идей развития страны и мира, не осознавая — с кем, в принципе, мы делимся своими данными и как ими будут распоряжаться. Понес ли ответственность университет Синергия? Нет! Понесет ли ее? А какую? Какая ответственность предусмотрена за сбор и хранение личных данных даже с согласия родителей? Как будет уничтожена эта информация в случае отзыва согласия за хранение данных, если сегодня все хранится в электронном виде??? Даже удалив профиль в соцсетях, информация о вас уже собрана.
На днях комитет Госдумы по труду и соцполитике одобрил принятие во втором чтении закона о переходе на электронные трудовые книжки. Система отказа от бумажной версии документа будет добровольной — с согласия работника. Много ли людей, находящихся в поисках работы на сжимающемся рынке труда, будут отказывать работодателю подписать трудовой договор, условия которого предусматривают использование электронной трудовой книжки???
Все эти технологии призваны упростить жизнь? Чью жизнь — нашу? С одной стороны, они, безусловно, упрощают, с другой — усложняют. Теперь мы не стоим уже так, как раньше, в очередях, не бесим друг друга и окружающих и не имеем доступа к сотрудникам служб и к службам как таковым. Не ко всем, конечно. Но в будущем, очевидно, прямого доступа не будет ко всем. Мало ли времени мы тратим, пребывая на телефонной связи и в виртуальной сети для решения возникающих проблем??? А сколько нужно времени на решение технических проблем? Любая техника нуждается в сервисном обслуживании, а технику известного всем нам бренда и вовсе нужно менять каждые три-четыре года, поскольку ее батареек хватает ненадолго, а бесконечные обновления утяжеляют программное обеспечение предыдущих версий. Мы будем вечно гнаться за обновлениями и работать на сервис нашей техники. Зато отдельные компании становятся богаче — операторы сотовой связи, разработчики различных приложений и программ.
Сегодня наши телефоны распознают отпечатки пальцев, лица, голос. Завтра мы будем вынуждены защищать свой профиль от распознавания другими участниками цифрового мира с помощью специальных платных функций и приложений. Но все это не будет иметь хоть какого-то смысла, потому как данные в соцсетях уже собраны, распознаны, и защита от распознаваний уже ни к чему, разве что для новых свежих пользователей, но каковы гарантии защиты, того, что она работает?! Сегодня нам уже предлагают платную функцию по блокировке надоедливых звонков и рекламы. Уже сегодня мы переходим на новый формат техники, от старой избавляемся. Нет видеомагнитофонов, есть интернет для скачивания и прямого просмотра нужного и интересного контента. Нет дисководов, есть флэшки. Появились облака. Облачные решения по хранению данных. Глядишь, настанет день, когда и разъемов в технике для флэшки уже не будет предусмотрено. Всё перейдет на облако! Чье облако? Кто будет хранить вашу информацию, как будут ее хранить, бесплатно, не бесплатно, как будут ей распоряжаться? Разве мало информации утекает сегодня в открытый доступ? Даже перейдя на российское программное обеспечение, мы не сможем полностью себя обезопасить. Нам нужна ответственность компаний, которые собирают наши данные. Нам нужны понятные алгоритмы обращения с нашими данными. Иначе все мы погрузимся в хаос рано или поздно. Кто-то будет создавать стреляющих или разбрызгивающих опасные вещества дронов, кто-то будет в них стрелять и т. д. и т. п.