Ольга Ускова, одна из самых известных российских предпринимателей в области ИИ, рассказала, как роботы могут покончить с сегрегацией между людьми, зачем нужен учёт разработчиков ИИ и почему человечество должно создать новый моральный кодекс.
Дарк в ИИ
— Какие угрозы в искусственном интеллекте вы видите?
— Создавая технологии такого уровня, нужно помнить: мир всегда дуален. Когда запустили интернет, тут же возник даркнет. Понятно, что его создала часть тех же разработчиков. С роботами то же самое. Одни и те же люди делают созидательные системы и разрушающие — оружие, или вирусы, или фейковые армии ботов… Не все, конечно, но какая-то часть — намеренно или за большие деньги — это делает. То есть уже начинает возникать дарк, тёмная сторона, в области искусственного интеллекта. И это нужно учитывать.
— Учитывать возможно?
— А почему нет? В первую очередь это касается разработчиков. Нейронные программисты, они все более-менее наперечёт. Вспомним советскую историю — учёт физиков-атомщиков, например. Все выпускники таких закрытых специальностей были известны, им оформляли так называемые допуски, предоставляли льготы, но и накладывались определённые ограничения. И здесь нам нужно заботиться о разумной преемственности подобных практик.
Смерть на экране — это игра
— Выступая в ООН, вы сказали об искусственном интеллекте в период военных действий, который не отличает солдата от женщины или ребёнка.
— На текущий момент в таких ситуациях нет возможности распознавать, военный ли это или мирный человек. И вообще, когда проектируется оружие, ставится задача максимального поражения, и моральные ограничения в такие системы не вкладываются. А если человек не поставил ограничение искусственному интеллекту, то у него ограничений не будет.
Это так же, как задачу для оператора, который сидит за экраном, ставит его командир. Говорит: «Фигачь по красным крестам!» И оператор будет фигачить по красным крестам.
— Сколько мы уже знаем жутких случаев, когда дроны-камикадзе поражали мирных людей. Машину в Курской области, где за рулём сидела женщина и везла ребёнка. Жителей Петропавловки, выходивших с белым флагом в сторону российских войск. Бабушку, на коленях крестившуюся перед дроном под Купянском… И всякий раз задаёшься вопросом: как мог оператор бить в них?
— Знаете, любой переход в дистант, то есть в удалённое управление, меняет мораль и этику войны. Сейчас война другая, потому что дронщик не чувствует личной опасности и запаха крови. То, что происходит на экране, — для него всегда игра. И к этому человечество готовили несколько десятилетий.
Все сетевые игры — это в основном война, то есть стрелялки, поражалки, тушки на экране, танки, мортал-комбаты и так далее. Как минимум, два поколения воспринимало смерть на экране как прикол. А теперь смерть на экране компьютерного героя или жителя Курска, Белгорода или Купянска — это одно и то же, с точки зрения мальчика, который сидит с пультом.
— Поэтому, выступая в совбезе ООН, вы говорили о необходимости принять некие международные правила ведения войн с использованием оружия на базе ИИ?
— Да. Перейдя на такой новый род войны, человечество их не ввело. Между тем всегда, ещё с первобытно-общинного строя, существовал кодекс войны. Когда племя шло на племя или один барон шёл на другого барона-соседа, они знали, что можно делать, а что нельзя. Идёт рыцарский поединок — один участник упал, а другой его добил — этого делать нельзя. Кто-то выбросил белый флаг, а в него выстрелили — нельзя. Нарушители становились изгоями или их уничтожали. То есть у войны были правила. У современной войны правил нет.
Вопрос выживания вида
— Правила номинально существуют — скажем, запрещено применять химическое оружие. Но сколько раз на СВО противник применял его против наших ребят…
— Они не работают. И мы стоим сейчас у черты. Если вообще выживем, то мы, как человечество, должны будем создать новый моральный кодекс — в первую очередь в области действий, которые могут угрожать жизни человека.
— Вы думаете, что он будет соблюдаться?
— Это вопрос выживания нашего вида. Не обязательно он продолжит существовать. Исчезли же динозавры, какие-то виды птиц, те же неандертальцы… Останемся или нет — это сейчас наш общесистемный выбор.
Карине Геворгян, политолог, недавно рассказала мне об исследовании, показавшем, что у стай птиц существуют стражи, которых они выставляют, чтобы те сообщили остальным о приближении хищника. А поскольку стражи начинают кричать первыми, когда видят врага, то их первых он и уничтожает. Но на место убитого стража тут же становится следующий. То есть птицы знают, что страж убит, они всё видели, но занимают его место. Получается, что коллективный интерес стаи выше, чем индивидуальный страх смерти.
Я полезла искать и нашла это исследование — его проводили учёные Калифорнийского университета на Амазонке. Оказалось, что эти стаи собираются не из одного вида, а из разных, что поразило меня ещё больше. Ведь готовые к самопожертвованию особи уберегают не только свой вид, а сообщество видов. А когда учёные начали забирать этих стражей (одного, потом следующего, следующего и так далее), сообщество распалось и птицы улетели в другой регион. Это, по-моему, грандиозный урок нам, людям.
— Собственно, у нас, когда существовали общины, они тоже были разнородные — территориально-соседские, а не кровно-родственные, как на Западе. И в общинах всегда общественное было значимее личного. Да и в советские времена нас так же воспитывали — пионерский салют ведь что означал? Рука над головой — значит, общественное выше личного.
— Собственно, да. Но сейчас начали размахивать национальностью — это плохо, потому что общество выше национальности. Увлечение национальностью — это нарушение базового принципа, потому что у народов (многонациональных) есть важные роли, о чём «русские космисты» говорили. У Гумилёва это очень интересно изложено. Если народ по каким-то причинам начинает забывать о своей роли, то он погибает.