Искусственный интеллект сделает человека сильнее

― Владимир Сергеевич, начнем с вопроса, ясного специалисту, но малопонятного для других. Что такое искусственный интеллект?
— Это технология использования вычислительных машин для получения новых знаний. Мозг также многим представляется как некоторая машина. Вопрос в том, можно ли такую машину сделать? Ответа  ни у кого пока нет, но проблема, о которой мы говорим, имеет давнюю историю и именно с ее обсуждения начались все компьютерные науки. 
Ставшая уже классической, основополагающая статья «Вычислительные машины и интеллект» на эту тему написана Аланом Тьюрингом в 1950 году. Вопрос: «Может ли машина мыслить?» Тьюринг как математик  сформулировал точнее — может ли модель алгоритма вычислений, известная в настоящее время как машина Тьюринга, совершать действия, не отличимые от обдуманных действий человека? Сам он считал, что сконструировать машину Тьюринга — это создать алгоритм вычисления значений функции, а затем этот алгоритм записать на языке машины Тьюринга. Из сказанного ясно, что машина Тьюринга, а значит, и все современные компьютеры принципиально отличаются от человеческого мозга тем, что все их действия точно «запрограммированы», причем содержание самих действий в процессе работы не меняется. 
А вот что написал американский математик, один из основоположников кибернетики и теории искусственного интеллекта Норберт Винер в 1964 году: «Опасность не в машинах, которые становятся все больше похожими на людей, а в людях, с которыми обращаются как с машинами».
Когда мы говорим об искусственном интеллекте (ИИ), надо понять, какой смысл несет слово «интеллект» и в каком смысле интеллект является «искусственным»? То, что нейробиологи называют мыслью, является объективной, но невычислимой реальностью. Более того, ваши мысли как участника нашей беседы для меня не являются и физической реальностью. Тьюринг выдвинул гипотезу, что все объекты и процессы физической реальности могут быть вычислены на «машине Тьюринга», если записать точную последовательность математических операций или алгоритм вычислений. Гедель и Чёрч показали, что существуют алгоритмически невычислимые сущности. Можно ли вычислить с помощью алгоритмов ваши мысли? Очевидно, что нет. Компьютер — не мыслящий субъект, но человека можно превратить в машину в том смысле, что все его действия будут алгоритмически предсказуемы. Как предупреждал Н. Винер: «Мир будущего будет постоянной и упорной борьбой с ограничениями интеллекта людей». То же, что мы пытаемся моделировать с использованием систем ИИ, есть процесс интерполяции обучаемых данных как программ вычислений на машине Тьюринга. Но особенность любых методов интерполяции в том, что чем больше точек используется для построения полинома, тем больше ошибка интерполяции между точками. Классический пример: нейронную сеть обучали различать кошек и собак на основе обработки 10 тысяч фотографий тех и других животных, а затем на вход системы подали тестовый пример — кошку с ошейником. Предобученная искусственная нейронная сеть определила животное как собаку, потому что практически у всех собак есть ошейник. Все современные технологии ИИ построены не на анализе причинно-следственных связей, а на основе вычисления статистических корреляций, что не позволяет строить логически обоснованные выводы.
 

— Редакторы международных научных журналов бьют тревогу: ChatGPT пишет статьи, и иногда непонятно, автор человек или машина?
— СhatGPT, а также YandexGPT2, GigaChat — всё это так называемые «большие лингвистические модели», способные генерировать нечто, похожее на тексты, которые создают сами люди. При этом генерируемые объекты, аналогичные галлюцинациям человеческого сознания, не могут пройти тест на логическую связанность и причинную обусловленность. Если ChatGPT спросить о конкретных лекарствах, которые нужно принять исходя из конкретного клинического анализа крови, чат выдаст список, но никогда не сможет объяснить, почему вам надо принимать то-то и то-то. Квалифицированный специалист легко определит, написан ли текст системой ИИ или человеком. Машина всегда работает по определенным шаблонам, что в определенных ситуациях, для которых эти шаблоны были разработаны, дает преимущества, но люди не автоматы, работа по шаблонам для них неестественна. Если человек что-то не знает, он идет в библиотеку, обращается к коллеге или делает запрос в поисковой системе. В каком-то смысле использование ChatGPT можно рассматривать как систему генерации вероятных ответов на конкретные запросы. Проблема в том, что генеративные модели, порождая галлюцинации, используют их для самообучения или для того, чтобы учить другой ChatGPT. Очевидным итогом такого обучения будет потеря объективных знаний, а нам, как отмечал Н. Винер, предстоит упорная борьба с ограничениями своего естественного интеллекта. Борьба за истинные знания — это борьба за умение решать обратные задачи, то есть умение выбрать из множества в принципе возможных решений лишь одно, объяснив при этом, почему выбрано именно оно. Фактически речь идет о новой «мутации» ИИ в сторону так называемого объяснительного  искусственного интеллекта. 
В 2023 году генеративные трансформеры научились вычислять с определенной вероятностью смыслы слов. При этом нейрофизиологи отмечают, что сейчас даже в самых совершенных трансформерах используется лишь малая доля механизмов, которые известны когнитивной науке. Хотя механизмы внимания в компьютерных трансформерах и сознании человека совершенно различны, однако их совместное использование может стать основой супервентного механизма генерации знаний из данных, хранящихся в памяти компьютера. Поэтому не стоит бояться, что трансформеры заменят людей, надо стремиться к созданию новых экзоинтеллектуальных форм научного понимания мира.
 

— Значит, всё, что сейчас называют искусственным интеллектом, это просто помощники? 
— В лучшем случае такие помощники дают правильные решения с 95-процентной вероятностью. Вы бы захотели лететь самолетом, который долетит до пункта назначения с вероятностью в 95 %? Недостаточно получить от «черного ящика» ИИ указания — на фотографии изображена кошка, а нужно также объяснение, почему это кошка и какие признаки при принятии решения были использованы. 
Основой разрабатываемых решений является современная математика, которая отказалась от понятия «равенство», заменив его на «эквивалентность». Декомпозируя данные на классы эквивалентности, мы переходим к конструктивному использованию идей концептуального обучения для решения различных классов прикладных задач, опираясь на фундаментальные законы физики и формализмы теории информации. Такой подход позволяет вернуться к пониманию истоков когнитивной деятельности человека как вида Homo sapiens, которые образно отражены во фразе, с которой начинается Евангелие от Иоанна — «В начале было Слово (logos)», не отменяя при этом «цифровую» метафизику Пифагора, утверждавшего, что «всё есть число». Создаваемые в СКЦ «Политехнический» гибридные суперкомпьютеры являются по существу мультимодальными трансформерами, наделенными способностью к обучению с целью наиболее эффективного решения прикладных задач. Обрабатывая миллионы прикладных задач в год, гибридный суперкомпьютер рассматривается как хранилище огромного опыта применения прикладных алгоритмов и оценки КПД работы вычислительной системы, которую мы измеряем числом успешно решенных прикладных задач. Все новые подходы направлены на то, чтобы «научить» машину запоминать то, что она делает, а затем использовать полученную информацию для повышения эффективности работы в будущем при решении новых задач. Используя методы ИИ, мы добились того, что, не меняя «железа» суперкомпьютера, мы на треть повысили количество успешно решенных прикладных задач политехнического уровня сложности, которые отражают интересы исследователей из 150 научных групп, зарегистрированных в СКЦ «Политехнический». 
 

— К вам обращаются медицинские учреждения за разработками. Какие основные задачи они ставят?
— Медиков интересует обоснование принимаемых диагностических решений, основанных на обработке данных, имеющих большую «пространственно-временную глубину». Мы обучаем медицинские системы ИИ анализировать различные клинические данные в форме таблиц, данных КТ и МРТ, которые непосредственно связываются с генетическим паспортом пациента. Мне лично очень нравится наша вовлеченность в проблематику современных медицинских исследований, где востребовано уникальное сочетание мультимодальности данных, концептуальность процесса обучения и генеративный характер принимаемых решений. Сейчас мы работаем с коллегами из Национального медицинского исследовательского центра имени В. А. Алмазова над применением технологий объяснительного интеллекта для создания нового поколения интеллектуальных систем поддержки принятия врачебных решений и внедрения методов концептуального машинного обучения, объединяющих индуктивные и дедуктивные процедуры для оценки причинно-следственных эффектов выбранной стратегии лечения. 
 

― Необходимо ли готовить специалистов с новым мышлением, с творческим началом?
— Профиль подготовки в нашей Высшей школе называется «математика и компьютерные науки». Наши выпускники умеют применять математические методы для решения различных прикладных задач, сформулированных в форме алгоритмов обработки информации и управления. При этом высокие баллы по ЕГЭ не гарантируют, что после первого семестра студента не отчислят. Мы особо ценим студентов, старающихся глубоко разобраться в сути изучаемых предметов, а это программирование, математика и физика. При составлении программы обучения бакалавров и магистров мы исходим из того, что «понимание принципов освобождает от знания множества фактов». Принципов мало, и они, как мы говорим, «политехнически» зависимы. Наш абитуриент должен обладать широким кругозором и уж точно знать, что такое машина Тьюринга, хотя этого вопроса в программе по ЕГЭ нет. Если исходить из того, что предмет компьютерных наук — информация, то понятно, почему медицина, нейробиология и генетика являются важной сферой проводимых нами исследований с фокусом на методы машинного обучения, обработку на суперкомпьютерах больших объемов данных и технологии ИИ. 
Каждую студенческую группу в нашей Высшей школе мы стараемся превратить в творческий коллектив, способный использовать полученные знания для проведения исследований с использованием суперкомпьютеров, а результаты оформить в научную работу, в которой ясно изложить свои представления об изучаемом объекте. 
Наша цель амбициозна — научить студентов и суперкомпьютеры решать задачи. Интеллект и человека, и компьютера мы рассматриваем с общей точки зрения как умение решать «обратные задачи», для регуляризации которых используются методы объяснительного интеллекта.
Важную часть математического образования, которое мы даем нашим студентам, составляют статистика и топология. Топологический анализ данных — одна из перспективных технологий машинного обучения, которую мы успешно применили в проекте с Роспатентом при создании системы патентования трехмерных компьютерных моделей. Другой аспект использования топологии — это совместная работа с физиками по созданию макетного прототипа топологического квантового компьютера, работающего при комнатной температуре. В каком-то смысле наш мозг также можно рассматривать как топологический квантовый компьютер, реализующий непрерывный каскад обратимых вычислений в памяти, что позволяет обеспечить беспрецедентную удельную энерговычислительную эффективность и скорость обучения, которая на несколько порядков превосходит возможности современных суперкомпьютеров. 
 

— Оправданы ли опасения, что из-за ИИ исчезнут некоторые профессии?
— Профессии изменятся. Это нормально. Процесс эволюции не остановить. ChatGPT — это лишь одна из галлюцинаций, которые порождены стремительным развитием компьютерных технологий. Можно ли галлюцинациями заменить реальную жизнь? Конечно, нет. Новые инструменты в руках человека сделают его только сильнее. Процессы, о которых писал академик Владимир Вернадский в 1935 году, развиваются с небывалой интенсивностью — новая геологическая психозойная эпоха началась, и мы должны это осознать.
Беседовала Анна ШАРАФАНОВИЧ