«Разум человека за пределами концепций и алгоритмов»

Заменит ли искусственный интеллект (ИИ) врачей и педагогов? Что произойдёт, если роботы сами начнут ставить себе цели? Как победить в случае восстания машин? И что человеку даст «день без цифры»?

На эти и другие вопросы отвечает участник XIII международного Сибирского форума «Индустрия информационных систем» (прошёл в конце июня в Академпарке), кандидат физматнаук, завлабораторией аналитики потоковых данных и машинного обучения ММФ НГУ Евгений ПАВЛОВСКИЙ.

– Четыре года назад на форуме СИИС развернулась дискуссия «ИИ против НИИ». Учёные и разработчики обсуждали преимущества и риски. Что изменилось?

– Тогда мы предполагали развитие искусственного интеллекта, прогнозируя неумолимый прогресс. Сегодня он не только наступает нам на пятки – скорее мы уже видим его сверкающие пятки. Всё стремительно меняется.

Методы машинного обучения построены на обобщении экспериментальных научных методов. Они позволили в огромном масштабе пронаблюдать миллионы данных и автоматически построить модели. Технологии проникли в творчество, искусство. Теперь не составляет труда быстро составить служебку о выделении помещения в официальном стиле или сочинить стихотворение на заданную тему.

Мы идём по пути разработчиков программного обеспечения, которые не переизобретают код, а встраивают его в новое изобретение, ускоряя процессы разработки. Искусственный интеллект позволяет анализировать большие данные, объединять проекты целых институтов. Важно, что методы ИИ могут быть применимы и для проверки достоверности научных знаний.

– Искусственный интеллект становится умнее, может решать нестандартные когнитивные задачи, однако многие вопросы требуют человеческих решений. Чью сторону вы сами занимаете в этом поединке?

– Ответ очевиден: я – за человеческий капитал. Индийская, как и русская, философия строится на том, чтобы подчинить ум разуму. Это можно применить и к нашим отношениям с технологиями ИИ. Нейросетевые методы копируют ментальную структуру человека, его ум, создавая некий реализатор желаний. Но вот скопировать разум человека не получится, он – за пределами концепций и алгоритмов. Развивая умные технологии, мы должны осознать себя в роли творцов, разумных существ и принять на себя всю ответственность. Возможно, через ИИ ответственность станет прозрачней, будет лучше осознана.

Сейчас ИИ многими воспринимается как угроза. В этой части мы должны увидеть тезис, антитезис и выйти на уровень критического мышления и ответственности. Возникает новая этика: что можно, что должно и что нельзя. Сейчас вообще очень опасно заниматься выявлением нового знания в отрыве от того контекста, где оно может применяться.

– Какие проекты в области искусственного интеллекта реализуете в НГУ?

– Успешно реализуются проекты в сфере применения ИИ в медицине. Так, в течение трёх лет мы проводили исследования возможностей алгоритмов искусственного интеллекта в обработке снимков головного мозга на предмет опухолей. Участвовали в международных соревнованиях, где показали себя в десятке сильнейших команд мира. Был разработан софт, который обозначает контур опухоли. Мы пошли дальше в университете: сделали алгоритмы классификации, провели медицинскую интерпретацию и сейчас создаём нейросетевые алгоритмы с объяснениями.

– Если ИИ проникнет в сферу медицины и образования, сможет ли он потеснить человека?

– Что касается врачей и педагогов, ИИ их точно не заменит. Компьютер передаёт информацию, но не энергию. Преподаватель нужен, чтобы мотивировать и вдохновлять. Энергия учителя позволяет ученику расставлять акценты, понимать, что важно.

Технологии должны занять своё место в образовательном и клиническом процессе, роли преподавателя и врача должны быть переосмыслены. Для этого представителям этих профессий следовало бы научиться понимать механизм работы технологий, их принципы и границы применимости. Освобождающееся время необходимо направить на действительно важные задачи. Например, полагаю, появится возможность наблюдать за предвестниками заболеваний, последствиями педагогических воздействий и, исходя из этого, принимать решения по изменению стратегии диагностики и лечения; а в случае педагогов – увеличится потенциал по совершенствованию педагогических приёмов. Расширение с помощью ИИ ментальных возможностей актуализирует исследовательскую способность – умение систематизировать свой опыт, соединяя его с базами данных и моделями.

– Цифровые потоки увеличиваются, невольно встаёт вопрос о цифровой гигиене.

– Недавно на мероприятии по гражданской информационной безопасности с министром Сергеем Цукарём (минцифры НСО) я предложил идею: провозгласить «день без цифры». Нужно обязательно отдыхать от инфопотока. Уровень технологий становится сопоставим с человеческими способностями, и велик шанс отдать часть когнитивных функций машине. Мы уже не запоминаем, что столицей, например, Бангладеша является город Дакка, потому что можно открыть Википедию. Не актуализированная связь в голове затухает. Мыслительную деятельность хочется передать на аутсорсинг, но это ведёт к зависимости. Человек как творец создан независимым. Если эти способности в себе не развивать, мы их утратим.

Как ПО требуется периодически обновлять, так и человеку нужны обновления. На мой взгляд, «день без цифры» – простая и эффективная мера. И нужна она на государственном уровне, как в Германии: в воскресенье закрыты все магазины, можно отдыхать, в церковь ходить, гулять на природе. Один из механизмов маркетинга – актуализировать страхи, чтобы люди сохраняли вовлечённость в технологии. Месседж «Я не смогу без связи, интернета» нужен для того, чтобы на твоей платформе прочно сидели. Но оказывается, что ничего не происходит, если телефон забыт дома. Такие отсутствующие в эфире пользователи, набравшись на природе новых смыслов, затем могут обогатить платформу новым контентом.

– А если компьютеры восстанут против людей, найдём ли мы кудесника, который направит всех назад?

– Технологии должны быть инструментом, но мы сейчас олицетворяем себя с инструментом. В логике развития следует преодолеть такое видение. Например, в йоге есть такой путь через отрицание: «я – не то» и «я – не это». Так приходишь к пониманию, кем являешься на самом деле. Нам тоже придётся пройти через отрицание с ИИ, чтобы понять, что мы им не являемся.

Изучая вопрос целеполагания, я понял, что невозможно отличить случайное поведение робота от целенаправленного. Думаю, строить теорию целеполагания роботов может быть опасным без наращивания понимания, где и как такие технологии будут использоваться. В рамках этики исследований хотелось бы разобраться, должен ли учёный отслеживать все факты неэтичного использования полученного им знания.

Екатерина ВРОНСКАЯ

Фото предоставлено организаторами Форума СИИС