Обзор фильма «В погоне за утопией» – бунтарь из Google Мо Гавдат ищет этичный ИИ в тревожном инсайдерском предупреждении.

Документальный фильм, предоставляющий много информации о масштабах грядущих событий, также рассказывает о кампании Гавдата по внедрению программ, основанных на сочувствии.

Ещё один день, ещё одно предупреждение об ИИ; по отношению к известной нам реальности это оказывает примерно такое же успокаивающее воздействие, как отрыв фюзеляжа самолёта в полёте. Начиная с привычной критики, такой как лишение мира работы и передача власти технологическим магнатам, фильм Алекса Холмса и Лины Зилинскайте за 83 минуты обрушивает на зрителя концентрированный поток опасений по поводу ИИ. К тому моменту, когда в фильме начинают говорить о текущих попытках создания компьютеров из клеток человеческого мозга, потенциально интегрируемых в наш собственный череп, и намекать на то, что это может быть хорошо, (по иронии судьбы) трудно понять, как всё это осмыслить.

В центре фильма — Кассандра Мо Гавдат, бывший главный коммерческий директор Google X , а теперь — странствующий проповедник, пытающийся заставить мир прислушаться к опасностям искусственного интеллекта. Когда-то он руководил передовыми проектами технологических гигантов, но его самая большая задача еще впереди: привнести моральный аспект в технологическую гонку, которая все больше напоминает безумный финал сезона позднего капитализма. Он говорит о чувстве родительской гордости, наблюдая, как роботизированные руки Google, управляемые ИИ, учатся захватывать предметы, как это делают дети. И он считает, что способность человечества к доброжелательности — это именно тот ресурс, который необходим нейронным сетям для предотвращения катастрофы, которую принесет эта технология.

Для Гавдата родительский аспект имеет личное значение: он уволился из Google после трагической смерти сына в результате неудачной операции по удалению аппендицита. Поэтому он с евангелистской настойчивостью обращается к нынешним человеческим недостаткам ИИ: как он способствует своего рода цифровому нарциссизму через гипероптимизированные социальные сети и порнографию, облегчает массовое наблюдение и автоматизированную войну, а также развивается по экспоненциальной кривой роста, которая вскоре может выйти из-под контроля человека ( Джеффри Хинтон добавляет свои комментарии ). Технологические специалисты — конечно, не давшие здесь интервью — похоже, не слишком обеспокоены. Эффект «зловещей долины» у Марка Цукерберга и Сэма Альтмана наводит на мысль, что инопланетный сверхразум уже некоторое время печатает на 3D-принтере человеческие аватары.

Учитывая, как быстро ИИ был скован самыми низменными человеческими инстинктами, Гавдат, к сожалению, не может конкретно определить, как должен выглядеть просвещенный ИИ. Предложение о насыщении обучающих данных нейронных сетей примерами человеческого позитива и альтруизма, как он считает, выглядит почти смехотворно наивным. Но, возможно, это не так уж и нереалистично; эмпатия, возможно, должна охватывать и цифровые сущности, которые в практических целях будут обладать сознанием и разумом. Один из ведущих бутанских лам соглашается с ним в том, что нынешняя программа «сдерживания» ИИ и обеспечения его «служения» человечеству содержит слишком много старых репрессивных тенденций. Трудно сказать, насколько серьезно следует воспринимать предложение, аналогичное «Охотникам за привидениями II» — позитивные вибрации для изгнания негативной эктоплазмы. Но времена блокбастеров требуют нестандартного мышления, и опрошенные здесь люди его в избытке предоставляют.