Виталий Фридлянд, Fujitsu: "Мы вступаем на этап развития, на котором технологии будут создавать технологии"

Ежегодная конференция Fujitsu World Tour 2019, которая состоялась в Москве 18 сентября, прошла под лозунгом «Инновации, ориентированные на человека. С доверием к данным и технологиям». Виталий Фридлянд, генеральный директор Fujitsu в России и СНГ, рассказал в интервью корреспонденту TAdviser Елене Покатаевой, почему «человеческое» понятие доверия стало центральным для передовых ИТ, и каким образом это меняет технологическую инфраструктуру новых поколений.

Виталий Анатольевич, обращение к ценности человеческой личности в контексте ИТ-инноваций для компании Fujitsu не случайно. Известно, что в Японии реализуется национальная программа развития цифровой экономики «Общество 5.0». Она даже по названию радикально отличается от программ аналогичного класса, реализуемых, например, в Германии (Industry 4.0, ориентированная на рост экономики через цифровизацию промышленности) или США (промышленный интернет вещей IIoT), хотя так же предназначена для сохранения лидирующих позиций страны в мировой экономике. Каким образом эта идея – человек в центре технологий – сказывается на стратегии ИТ-разработок компании Fujitsu?

ВИТАЛИЙ ФРИДЛЯНД: Вы правильно подметили, что в данном контексте обычно говорят о японской концепции Human Centric. Хотя Human Centric – это на самом деле англоязычная интерпретация гораздо более интересного японского слогана, который состоит из нескольких иероглифов. И эти иероглифы говорят, скорее, о взаимном проникновении людей, технологий и окружающей среды. Причем, под окружающей средой понимается все, включая государственные институты, бизнес, производство, в целом весь материальный и нематериальный мир. И в центре всего этого оказывается человек.

В нашей компании мы применяем к описанию этого состояния прилагательное «иммерсивный» - от англ. «immersive», что подразумевает погружение или целостное восприятие всех аспектов реальной и виртуальной реальности. И это, как вы понимаете, принципиально отличается от «intelligence» в общепринятой сегодня трактовке искусственного интеллекта (Artificial Intelligence). То, что в нашей концепции в центре всего – человек, обусловливает переход к совершенно иному типу взаимоотношений в этой системе – к так называемым «intelligent», то есть интеллектуальным, технологиям.

Они не сводятся к информационным коммуникациям, это именно интеллектуальные технологии взаимодействия в масштабе окружающей среды. Рассматривайте это как краткое введение в концепцию «Общество 5.0». А если захотите разобраться поглубже, то я советую прислушаться к тому, что говорят гуманитарии, в частности, психологи, участвующие в проектах такого рода. Они изучают, как происходит практическое вовлечение людей, бизнеса, государства в этот сплав информационных, интеллектуальных, иммерсионных технологий. Это захватывающе интересно. Ведь мы не знаем точно, куда придем. «Нам не дано предугадать…», как сказал великий поэт Ф.И. Тютчев. Но есть очень важный аспект происходящего: мы уже в этом будущем.

Давайте поговорим о том, каким образом это будущее проявляется уже сегодня.

ВИТАЛИЙ ФРИДЛЯНД: Мы рассматриваем инновации в целом как способ улучшения нашей жизни. Во всех ипостасях: бизнесе, частной жизни, всей человеческой жизни в целом.

Речь идет потребительской ценности современных ИТ?

ВИТАЛИЙ ФРИДЛЯНД: Конечно!

Вы понимание ценности ИТ в угоду практицизму? Есть ведь еще и научный поиск, зачастую не имеющий практической цели, как, скажем, доказательство теоремы Ферма. А творчество?

ВИТАЛИЙ ФРИДЛЯНД: Творчество – это тоже потребление. Любой поэт или художник, если он не лицемер, пишет поэмы и картины для публики.

Он хочет что-то сказать миру. Согласна.

ВИТАЛИЙ ФРИДЛЯНД: Более того, современный искусственный интеллект способен воплощать некоторые творческие моменты: жалеть, творить, любить и т.д. Любому творцу нужно потребление внешних эмоций, точнее, доверительное потребление эмоций. Когда мы начинаем смотреть на сегодняшний мир с таких позиций, то понимаем, что ключевое слово в контексте использования инноваций – это доверие. Это большая проблема, с которой каждый из нас сталкивается ежесекундно: доверие к тому, что у нас есть, доверие между людьми, организациями, доверие к технологиям.

Похоже, Вы рассматриваете доверие, не как эмоционально-расплывчатый термин, а как некую универсальную константу, или, скорее, переменную, которая очень полезна для задач практической информатизации?

ВИТАЛИЙ ФРИДЛЯНД: В разных языках слово «доверие» несет разную смысловую нагрузку. Может ли принцип доверия восприниматься как некоторая парадигма пользования различными частями нашего сложного мира? Конечно. Судите сами, экономика, политика, государственное регулирование – все со временем претерпевает существенные изменения. Раньше к таким понятиям в англоязычных исследованиях добавляли слово «predictable», что означает «предсказуемый». Сегодня этого нет. Сами технологии меняются с головокружительной скоростью. А в последние годы у них появилось принципиально новое качество: они взаимодействуют между собой. Внутри этих взаимодействующих технологий естественным образом оказывается человек, а также понятие доверия по отношению к этому миру.

Понятие доверия непросто классифицировать. Но можно. Выделим, например, три базовых типа доверия:

Компания Fujitsu провела опрос 900 руководителей компаний из разных стран в феврале этого года по вопросу, насколько для вас критично обеспечение правильной достоверной информацией? Почти 70% опрошенных сказали, что это самая главная проблема – доверие к информации.

Может ли искусственный интеллект решить эти проблемы?

ВИТАЛИЙ ФРИДЛЯНД: Я предпочитаю говорить о так называемом искусственном интеллекте. Наверное, может. Если он не будет подменять человека, а будет выступать в синергическом единстве в рамках новых информационных технологий с человеком. Приведу пример. Компания Fujitsu выполняет масштабный исследовательский проект, связанный с моделированием активности тела спортсмена во время соревнований. В частности, на одном из соревнований по художественной гимнастике была протестирована система компьютерной оценки техники исполнения. Кстати, в 2022 г. ее использование станет обязательным во всех федерациях гимнастики. Да, технику исполнения элементов сегодня умеет оценивать компьютерная система. Однако никто не доверит системе оценивать художественный уровень исполнения, артистизм. Здесь нужен человек.

Создание доверительной среды между человеком и ИТ-системой – это одна из основных тем дискуссий, в которые вовлечено сегодня не только сообщество ИТ-специалистов, но и все те люди, которые создают технологии для жизни. В любой сфере человеческой жизни необходимо иметь некий институт, которому можно доверять и сверять по нему свое отношение доверия/недоверия к тому или иному явлению или технологии, может быть, какой-то вариант Роспотребнадзора, наблюдающего за качеством продуктов на полках супермаркетов.

Надо понять, как подойти к решению этой задачи. Давайте, например, представим это понятие в виде набора ключевых признаков. Тогда доверие – это что?

ВИТАЛИЙ ФРИДЛЯНД: В первую очередь, это достоверность и правильность информации. Причем, это разные вещи, потому что решение может быть верным, но недостоверным.

Это не гуманитарное понятие истины?

ВИТАЛИЙ ФРИДЛЯНД: Абсолютно нет. Оно утилитарно-техническое. Вспомните старый анекдот про учителя арифметики и школьников. Помните? - Сколько будет пятью пять? – Тридцать восемь. – Садись, два. – Двадцать шесть. – Молодец, умница. Ну, 26, ну, 27, но не 38 же!

Вы хотите сказать, что второй ответ, если его сравнить с некоторым доверенным (эталонным) ответом, достаточно близок к нему, а первый – гораздо дальше от доверенного результата? То есть решающее значение имеет зона доверия (или интервал доверия), которая определяется из практических соображений?

ВИТАЛИЙ ФРИДЛЯНД: Да. Решение может быть неверным, с точки зрения здравого смысла, правил арифметики. Но оно достоверное, потому что его доверительно сравнили с другими неверными ответами. Однако, помимо правильности и достоверности, есть еще один важный параметр – безопасность. Ведь если поверить, что 5x5 равно 26, тогда на практике нужно поверить, что в пяти ящиках находится 26 яблок, и их можно раздать поровну 26 ученикам. Но в реальности одному человеку яблока не достанется…

Получается, что параметр доверия – многомерный, это множество значений по нескольким направлениям.

ВИТАЛИЙ ФРИДЛЯНД: Ко всему прочему, у доверия есть еще одна важная составляющая – время. Время как физическая величина еще не осознана человечеством. Но это становится важным, когда мы задумываемся о квантовых компьютерах, к которым идет развитие ИТ. Мой друг, доктор Джозеф Регер, технический директор Fujitsu в Центральной и Восточной Европе, физик по образованию, советует всем интересующимся разработкой квантовых компьютеров в Fujitsu, внимательно прочитать третий том «Курса теоретической физики» Ландау-Лифшица.

Он очень интересный человек. Работы в такой области неминуемо настраивают на философский лад, и он любит рассказывать о том, как в ходе эволюции ИТ в направлении искусственного интеллекта реализуется принцип диалектического материализма о переходе количественных изменений в качественные. Однако на уровне квантовых компьютеров этот принцип перестает работать.

И это новый вызов. Возможно, наиболее принципиальный, с точки зрения новых ИТ, вопрос доверия технологии самой себе. Очевидно, что на том этапе развития, на который мы уже вступаем, технологии будут создавать технологии. И вопрос теперь должен ставиться не о доверии человека интеллектуальным технологиям, или доверии государства этим технологиям, а о том, могут ли вновь образуемые технологии доверять другим технологиям? Таких практических задач сегодня - огромное количество. Например, молекулярная биология активно занимается искусственным выращиванием протеинов, но насколько можно доверять результату? Почему мы должны верить, что этот белок – как раз то, что нам нужно, если мы хотим избежать длительного тестирования на крысах?

С подобными проблемами мы, похоже, встречались и раньше. Например, в области автоматического доказательства теорем – там ведь тоже идет речь о доверии алгоритмам. И на этом доверии, по сути, основывается принятие серьезных математических построений, имеющих практическую значимость.

ВИТАЛИЙ ФРИДЛЯНД: Не совсем то же самое. Вспомните историю классической математики. Однажды Евклид сформировал базовую систему аксиом и постулатов, а спустя почти 1800 лет появилась геометрия Лобачевского, и сама «идеология» доказательства теоремы Пифагора стала бессмысленной. А в квантовом состоянии, если говорить о традиционных формальных логиках, утрачивается само понятие доказательства как логического вывода в виде цепочки рассуждений. Тогда, очевидно, и логика будет нечеткой. И такие алгоритмы уже существуют. Однако доказать с помощью теории нечетких множеств и нечеткой логики, например, теорему Виета, связывающую корни и коэффициенты квадратного уравнения, практически невозможно. Поэтому я выступаю за здоровый консерватизм, сохранение старого, если оно целесообразно.

Каким образом в рамках гуманистического подхода Fujitsu рассматриваются такие понятия, как цифровой двойник, цифровая личность?

ВИТАЛИЙ ФРИДЛЯНД: Бессмысленные понятия. Если кого-то (или что-то) назовут цифровым двойником, то у оригинала сразу появится некая добавленная ценность (Value added), которая будет отличать его от цифрового двойника. Человек постоянно развивается. Как только мы кого-то создадим в виде копии, тут же включается параметр времени: у оригинала всегда найдется следующий шаг. У программистов есть известная шутка о том, что не бывает программ совсем без ошибок, всегда найдется еще одна (N+1) ошибка. Всегда, даже если мы пытаемся сделать две копии, скажем, Венеры Милосской, эксперт всегда найдет десятки отличий.

Не надо соперничать с природой, пытаясь полностью повторить ее замысел?

ВИТАЛИЙ ФРИДЛЯНД: Нет, надо. Но только на уровне каких-то отдельных характеристик, признаков. Возьмите, например, робот-манипулятор «искусственная рука». Разве ему нужно иметь именно пять пальцев, как у человека? Может быть, трех достаточно? Я имел дело в одном проекте с управлением умными протезами. Выяснилось, что для паралимпийцев-бегунов вовсе не обязательно иметь пять пальцев ног в этом протезе. С точки зрения распределения нагрузки, нет необходимости в пяти пальцах. Вообще у человека есть немало атавизмов, которые в сегодняшнем мире не нужны, скажем, шерсть на теле. Такие же «атавизмы», кстати, есть и в голове. Не все надо копировать.

Обычно, когда речь идет о переносе некоторых функций в новые устройства или механизмы, это означает, что человек создает себе дополнительные удобства. В результате получается интеллектуальная система, похожая на оригинал, но только потому, что это вопрос удобства. Это, кстати, существенный аспект обсуждаемых вопросов - очень часто вопрос доверия подменяют вопросом удобства.

Вспомните первых роботов в фантастике – это человекоподобные существа. Но кто сказал, что они должны быть человекоподобными? Кто сказал, что у них должны быть манипуляторы «искусственная рука»? Мы все время пытаемся наделить технологии в интеллектуальных системах какими-то человекоподобными характеристиками. Но кто сказал, что квадратное уравнение нужно решать с помощью дискриминанта и теоремы Виета? Может, проще прямым перебором получить результат, чем считать корень с помощью математического ряда?

Наверное, это будут не прямые цифровые копии процессов или людей, а, скорее, создание под каждую ситуацию некоей модели, которая включает еще и оценку достоверности?

ВИТАЛИЙ ФРИДЛЯНД: Да. И безопасности. И целесообразности. Причем, это не экономическая целесообразность. Это просто целесообразность. Какая-то. Вполне определенная в каждый конкретный момент времени.

Нечеловеческая целесообразность компьютерного разума? Этим нас как раз и пугают модные футуристы…

ВИТАЛИЙ ФРИДЛЯНД: Не тратьте на них время. Дело в том, что старые информационные технологии, знакомые и привычные нам, находятся при последнем издыхании. Им на смену приходят те ИТ, которые обеспечивают улучшение технологий жизни человечества: производство еды, энергии, экология, фармакология, медицина. То есть те, где появляется конечный потребитель этих технологий. А, собственно, информационные технологии находятся на уровне некоторой оболочки, обеспечивая правильное взаимодействие одного с другим. Пример: современная генетика и фармакология - они на 100% используют методы компьютерного моделирования и анализа, без информационных технологий генного инжиниринга вообще не существует.

Как тогда выглядит развитие информационных технологий?

ВИТАЛИЙ ФРИДЛЯНД: Развитие ИТ идет в диалектической парадигме: старые ИТ отмирают, начинает работать информационный сервис. Но не бытовой сервис в образе слесаря-сантехника, а такой сервис, который обеспечивает безрисковое взаимодействие двух технологий, а также этих технологий с организациями, и этих технологий с людьми, и этих людей с организациями. Представляете, какой многомерный куб доверия возникает с участием информационных технологий?

В каком виде возникает в этой конфигурации знакомый термин «искусственный интеллект»?

ВИТАЛИЙ ФРИДЛЯНД: Сегодня искусственный интеллект понимается, в основном, как некий «черный ящик», у которого на входе – поток информации, а на выходе – некоторое предложение, решение, которое заменяет умственные усилия человека. Такой взгляд - очень большая ошибка. Искусственный интеллект не заменит человека, а поможет человеку. Он будет дополнением к человеку, а вовсе не аватаром, его заменяющим.

Основная проблема – в другом. Сегодня ни одна система, которая использует стандартные вычисления, традиционный компьютинг, не может обеспечить уровень абсолютной конфиденциальности, абсолютной безопасности и абсолютной достоверности, свойственных среде доверия, формирующейся вокруг ИТ нового поколения. На бытовом уровне мы можем доверять или не доверять той или иной надзорной организации. А можем ли мы доверять так называемому искусственному интеллекту? Сегодня люди не склонны ему доверять – это видно по публикациям. Проблема в том, что нынешний искусственный интеллект (ИИ), особенно в передовой форме глубокого обучения (Deep Learning), не способен объяснить, что делает та или иная система.

Ключевое слово здесь - «объяснить». Люди не будут доверять ИИ, если он будет предлагать решения, которые не поддаются объяснению, а значит, оценке их истинности. Вот почему компания Fujitsu создала технологию, которую назвала «объяснимый ИИ» (Explainable AI). Fujitsu использует математику Deep Learning для того, чтобы создать на базе стандартной архитектуры Intel процессоры с принципиально новой системой команд на базе динамического стека команд. В процессорах Deep Learning Unit (DLU) мы уходим от архитектуры с заранее заданной разрядностью, например, 32-разрядной архитектуры, к некоторой сетевой процессорной топологии, которая реализует принципы комбинаторного компьютинга.

Что дает использование Deep Learning Unit в рамках серверов стандартной архитектуры?

ВИТАЛИЙ ФРИДЛЯНД: Использование DLU позволяет серверам Fujitsu на базе архитектуры Intel x86 работать в четыре раза быстрее. Причем, один новый сервер не просто заменит четыре традиционных по производительности, он будет гораздо экономичнее, с точки зрения энергопотребления. Кроме того, новая система команд позволила расширить функциональность серверных устройств. Образно говоря, вместо того, чтобы покупать 4 стульчика, вы покупаете один диванчик. Вам на нем удобнее сидеть (в 4 раза быстрее), он потребляет меньше энергии (у него всего 4 ножки вместо 16), и он более функционален – на нем можно не только сидеть, но и лежать и даже удобно спать. Новые устройства предназначены для высокопроизводительной поддержки таких ресурсоемких задач, которые сегодня решаются, например, в области генной инженерии.

В чем специфика новых технологий комбинаторного компьютинга?

ВИТАЛИЙ ФРИДЛЯНД: Приведу пример. Одна из задач, на которой тестировалась новая технология, - исследование большой базы примеров онкологических заболеваний. Цель - обнаружить генную мутацию, приводящую к болезни. В исследовании было использовано 180 тысяч образцов мутаций генов, 17 миллионов медицинских документов – конкретных кейсов, историй болезни конкретных больных. Было зафиксировано и отражено 10 миллиардов фрагментов знаний: о том, как действует тот или иной ген, та или иная цепочка, та или иная мутация и т.д. Понятно, что при решении данной задачи необходимо проанализировать огромное количество всевозможных сочетаний многочисленных параметров. Простой перебор сочетаний приводит к так называемому комбинаторному взрыву. Но мы разработали новую технологию, позволяющую управлять сложностью решения комбинаторных задач - комбинаторные вычисления.

Важно, что эта система комбинаторного компьютинга создана как объясняющая система, то есть способная объяснять собственное поведение при принятии решений в ходе расчетов. Иными словами, мы первыми среди ИТ-вендоров сделали шаг на пути создания передовых ИТ-систем, учитывающих доверие со стороны человека.

Это идея или готовый продукт?

ВИТАЛИЙ ФРИДЛЯНД: Принципиально новое компьютерное «железо» создается уже сегодня. К концу года эти технологии будут представлены на коммерческом рынке. В декабре к нам в офис должны приехать демонстрационные образцы. Несомненно, это прорывная технология. Но это только первый шаг на пути к вычислениям нового поколения. Следующий шаг, который мы тоже уже реализовываем, - квантовые вычисления.

Fujitsu создает квантовый компьютер?

ВИТАЛИЙ ФРИДЛЯНД: Это еще не квантовый компьютер, потому что используется традиционная микроэлектронная база. Но принципы вычислений, которые мы реализуем, уходят в квантовые технологии. Я имею в виду технологию Digital Annealer. Ее название переводится как «квантовый отжиг» и отсылает к одному из классических методов ИИ, в котором используется моделирование физического процесса восстановления - сведения разрозненной субстанции к единому целому в ходе нагревания и последующего охлаждения.

Вычислительная архитектура Digital Annealer, ориентированная на решение сложных комбинаторных задач, способна сравнивать тысячи возможных результатов одновременно, а не последовательно. Это уникальный подход к поиску новых решений, основанный на расширенных возможностях квантовых вычислений для параллельной обработки данных. Фактически речь идет о любых задачах с избыточной сложностью, которых сегодня становится все больше: в финансовой сфере (управление финансовыми портфелями), биологии, биохимии, генной инженерии. Управление цепочками блокчейна, управление в многофакторном пространстве без участия человека, например, беспилотными автомобилями и т.д. Фактически любые задачи, в которых идет речь о принятии решений на большом множестве возможных альтернатив, - на них ориентирована архитектура Digital Annealer.

Для уменьшения сложности в ней применяется, в частности, математика нечетких множеств и нечетких вычислений, на базе которых фактически реализуется технология квантовых вычислений множества вероятностей. Иными словами, состояние вычислений всегда находится в некотором квантовом множестве различных состояний.

Если вернуться к базовой теме доверия, как она проигрываются на том уровне квантовых вычислений, на котором сегодня работают технологии Fujitsu?

ВИТАЛИЙ ФРИДЛЯНД: В квантовом компьютинге нет понятия истины. Нет альтернативы «0»/«1». Есть множество состояний - сплошная теория относительности… Здесь огромное поле для осмысления, как в философском, так и практическом плане. Так, на практическом уровне важный вопрос - построение эко-систем доверия и управление изменениями. Ожидаем ли мы изменения доверия к новым ИТ, к искусственному интеллекту? Или управление изменениями и появление эко-систем доверия приведет, в конечном итоге, к новым проблемам на новом уровне? Ведь доверие к многомерной ИТ-инфраструктуре, встроенной в процесс взаимодействия человека и технологий, - само по себе проблема.

Технологии начинают создавать сами технологии – это критически важно, особенно, на квантовом уровне. «Нам не дано предугадать…». Нам не дано знать, как именно они между собой будут взаимодействовать, и к какому результату приведут. И в этом заключается принципиальное отличие новых информационных интеллектуальных технологий от просто информационных. Нового квантового компьютера от комбинаторного компьютинга.

Чем архитектура Digital annealing принципиально отличается от Digital learning, с практической точки зрения?

ВИТАЛИЙ ФРИДЛЯНД: Digital annealing – это не просто компьютерное «железо», а интеллектуальная система (intelligent system). Она, конечно, работает на базе компьютерного «железа», но отличается от него примерно так же, как здоровый человек отличается от того, который передвигается на протезах. Ключевой вопрос: насколько мы можем доверять тому, что создано технологией? Я, например, доверяю, потому что я видел, как работает обучающийся алгоритм.

У кого-то критерий доверия – опыт, совпадение результата с моим внутренним «эталоном»…

ВИТАЛИЙ ФРИДЛЯНД: Возможно. Но я точно не знаю. Я знаю только, что есть Доверие 1.0 – людей между собой, Доверие 2.0 – организаций и институтов, прежде всего, бизнеса, и Доверие 3.0 – доверие технологий между собой. И все это в сумме дает Доверие 6.0 – принципиально новую сущность. Но что именно это такое, не знает никто. Поэтому для меня принципиально важным является вопрос именно создания доверия, с точки зрения проникновения технологий друг в друга, их адаптации, возникновения новых технологий и трех уровней доверия. Поэтому, я уверен, необходимы абсолютно консервативные шаги, если мы говорим о цифровой трансформации.

В этом смысле доверие – это некий базис для борьбы и с ретроградством и с охранительством (позицией: не трогай, если работает). Он говорит о том, что не нужно быть догматиком. Чтобы, творя новую информационно-технологическую историю, не выплеснуть вместе с водой ребенка. Нужно сохранять здоровый консерватизм. Вот почему мы в Fujitsu уверены, что занимаясь самыми передовыми технологиями, нужно думать об интеллектуальном обществе, которое ориентировано на человека.

-------------------------------------------------------------------

Хотите оперативно узнавать о выходе других полезных материалов на сайте "ГИС-Профи"?
Подписывайтесь на нашу страницу в Facebook.
Ставьте отметку "Нравится", и актуальная информация о важнейших событиях в энергетике России и мира появится в Вашей личной новостной ленте в социальной сети.