"Нынешняя траектория развития ИИ ведет к катастрофе"

Футуролог, основатель института Future Today и профессор Нью-Йоркского университета Эми Уэбб рассказала журналистам MIT Technology Review о нависшей над искусственным интеллектом угрозе. Если действовать быстро, катастрофу еще можно предотвратить.

В США капиталистический рынок близоруко подрывает долгосрочное планирование развития ИИ, которым занимаются компании G-MAFIA: Google, Microsoft, Amazon, Facebook, IBM и Apple. В Китае похожая ситуация: Tencent, Alibaba и Baidu консолидируются, чтобы собирать огромные объемы данных и питать ими авторитарные амбиции правительства, указывает футуролог Эми Уэбб.

Она уверена, что нынешняя траектория ведет к неминуемой катастрофе.

Тема искусственного интеллекта достигла достигла точки кипения, и теперь настало время сделать шаг назад и осмыслить происходящее. В этом цель новой книги Уэбб «The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity» («Большая Девятка: как ИТ-гиганты и их мыслящие машины могут изменить человечество»). В ней она рассматривает тенденции, которые направили развитие технологии по опасному пути.

Возможно, тем, кто работает в области ИИ, прогресс не кажется значительным, но если взглянуть на происходящее со стороны, видно, что сейчас одновременно происходят миллиарды маленьких изменений.

Они накапливаются и однажды приведут к появлению машин, способных принимать решения за человека: «Мы должны остановиться и спросить себя, что случится, когда эти системы отбросят человеческую стратегию в сторону ради чего-то полностью нам чуждого».

Пессимизм футуролога вызывают политические и экономические веяния как на Западе, так и на Востоке. В США федеральное правительство, вместо того чтобы создать долгосрочную программу развития ИИ, сокращает финансирование науки и техники. Ученые вынуждены искать деньги в частном секторе. Но инвесторы требуют доходов, а это заставляет разработчиков устраивать ежегодные шоу с демонстрацией «поразительных достижений».

Необходимость работать быстро приводит к ряду неверных решений, принятых G-MAFIA. Трудно совместить научный подход и экономическую выгоду.

ИИ, созданный на Западе, с большой вероятностью впитает идеи западной демократии, и не только лучшие ее проявления. В качестве негативных примеров Уэбб приводит скандалы с Facebook или проблему столкновения принципов свободы слова с опасным движением противников прививок. Технологии становятся все более сложными, а идеологические представления не поспевают за этими изменениями.

Китайская модель также не идеальна. Там правительство направляет огромные средства на фундаментальные исследования в области ИИ, а также предоставляет ученым громадные объемы данных, не заботясь о соблюдении прав человека.

Выход футуролог видит в консолидации усилий Кремниевой долины и Белого дома. Она призывает создать международный альянс по делам искусственного интеллекта — некую единую организацию, которая займется созданием норм и стандартов, гарантирующих, что ИИ будущего будет отражать не только представления о мире, заложенные в него исключительно США и Китаем. В алгоритмах с глобальной силой воздействия нужно отразить опыт и надежды всего мира.

В завершение интервью Уэбб посоветовала проявить больше внимания к тому, кто и как использует ваши личные данные. Прочитать статьи на эту тему и не спешить подписываться на сервисы и постить фотографии своих детей. По крайней мере, следует понимать, к каким последствиям это может привести.

Угрозу в предвзятости алгоритмов видит и главный разработчик ИИ Salesforce Ричард Сочер. Он уверен, что проблему не решить, заставив нейросеть объяснять свои решения. Ведь и сами интерпретирующие алгоритмы не всегда точны.