2035: in progress > СквоТ

03.11.2018

Мифы об искусственном интеллекте

В массовом сознании сложилось довольно много мифов об искусственном интеллекте: где-то ему приписывают фантастические способности, где-то недооценивают. Мы решили поговорить о реальных возможностях ИскИна и перспективах его развития.


— Сорок два! — взвизгнул Лунккуоол. — И это все, что ты можешь сказать после семи с половиной миллионов лет работы?

— Я все очень тщательно проверил, — сказал компьютер, — и со всей определённостью заявляю, что это и есть ответ. Мне кажется, если уж быть с вами абсолютно честным, то все дело в том, что вы сами не знали, в чем вопрос.

— Но это же великий вопрос! Окончательный вопрос жизни, Вселенной и всего такого! — почти завыл Лунккуоол.

— Да, — сказал компьютер голосом страдальца, просвещающего круглого дурака. — И что же это за вопрос?

Знаменитая цитата из книги Дугласа Адамса «Путеводитель для путешествующих автостопом по галактике» в полной мере показывает мифы и заблуждения, которые связаны в массовом сознании с искусственным интеллектом. По большей части это происходит из-за того, что мы мыслим категориями языка.

Миф 1: "Искусственный интеллект — это компьютер с сознанием"

Этот первый миф возникает тогда, когда термины «искусственный интеллект» (ИИ), «машинное обучение», «нейронные сети» выходят из узкоспециального обращения и попадают к журналистам. В результате уже давно произошла подмена двух понятий: узкоспециальный «искусственный интеллект» и «искусственный интеллект» в широком смысле, растиражированный научной фантастикой.

Первый — реальность, где мы используем некие системы для решения интеллектуальных задач. Даже счеты, которыми виртуозно владели продавщицы советских времен, тоже в каком-то смысле инструмент искусственного интеллекта. Шутки шутками, но есть специальный термин — applied artificial intelligence. Это ИИ, «заточенный» под решение какой-то одной интеллектуальной задачи или их небольшого круга.

Ему противопоставляют теоретический, «сильный» искусственный интеллект, который пока существует в научно-фантастических произведениях. Он может сам решать интеллектуальные задачи любой сложности. Но до этого еще очень и очень далеко.

Миф 2: "Компьютерная нейронная сеть работает как нейроны человека"

Еще одно заблуждение лингвистического толка — это нейронная сеть. То, что программисты назвали так архитектуру системы искусственного интеллекта, его подвид deep learning (в системах глубокого обучения может быть как одна нейронная сеть, так и несколько), не значит, что ее элементарные логические элементы, которые производят с данными некие преобразования, хоть как-то похожи на нейроны. 
Нейроны — клетки нервной системы живых существ, которые обладают электрической активностью. Нейрон чаще всего имеет много коротких отростков (дендритов) и один длинный (аксон). Электрический сигнал от нейрона к нейрону передается через химический контакт (синапс) при помощи специальных молекул (нейромедиаторов). Один нейрон может иметь до 100 000 синапсов.

Там нет ничего похожего на синапсы, нейромедиаторы, дендриты, аксоны и так далее: нейрон любого организма гораздо сложнее и вообще другой. Хотя известны работы, в которых программисты пытаются создать нечто, действительно напоминающее по структуре и функционалу нейроны человека. Но это уже совсем другая история.

Единственная схожесть наблюдается в случае так называемых сверхточных нейронных сетей, которые направлены на распознавание изображений. Здесь архитектура «нейросети» копирует некоторые элементы обработки визуального сигнала в сетчатке и зрительной коре головного мозга.


Миф 3: "Искусственный интеллект заменит специалистов"

Любимый миф, в создании которого преуспели падкие на заголовки СМИ, о том, что системы искусственного интеллекта вскоре заменят специалистов. Этот миф очень хорошо разобрал на интенсиве «Остров 10-21» в своей визионерской лекции Иван Оселедец, профессор Сколтеха и один из ведущих специалистов по обучению искусственного интеллекта. 

Ученый привел следующий пример: «Вот вам типичный заголовок из СМИ: «Искусственный интеллект сравнился по качеству с врачом-дерматологом». Кажется, все! Люди, потратившие шесть лет в медицинском университете, а затем проведшие еще два года в ординатуре по дерматологии, должны пойти и застрелиться, потому что они выбросили эти годы на помойку — теперь их заменит нейросеть. Однако если начать разбираться, то окажется, что данная конкретная нейросеть научилась ставить диагноз «меланома» по снимку с точностью, сравнимой с результатами хороших врачей-дерматологов. Но это значит, что она всего лишь натренирована отличать меланому от родинки. И все, больше она ничего не умеет! А ведь дерматолог может гораздо больше: он и витилиго определит, и ихтиоз от проказы дифференцирует, и лечение назначит, и нестандартный случай разберет. То есть нейросеть, диагностирующая меланому, это всего лишь новый и полезный инструмент, который облегчает работу врачу и высвобождает его время. Недаром сейчас уже выпускаются гистологические микроскопы, в которых вшита нейросеть для определения метастазов в препаратах биопсии лимфоузлов».

«В настоящий момент бояться, что роботы представляют опасность, что они могут заменить большое количество профессий, бессмысленно. Эти страхи сильно преувеличены, — уверен генеральный директор компании «Нейроботикс» рынка NeuroNet Владимир Конышев. — Это всегда будет в книгах, в фильмах, а реальная история такая: интеллекта роботов нет. Можно научить их видеть, выделять объекты, но что с ними делать, робот не знает. Он может говорить, и создается иллюзия, что он все понимает. На самом деле он практически выхватывает слова из заданного вопроса (слышит «Эверест» — и отвечает, что такое Эверест), но смысла не понимает».

Миф 4: "Искусственный интеллект — продукт последних лет"

Это самое распространенное заблуждение. Большинство алгоритмов как искусственного интеллекта вообще, так и машинного обучения в частности было создано на протяжении 40(!) лет. Так, например, первый робот-психотерапевт Eliza (на самом деле — робот-пародия на психотерапевта), названный в честь Элизы Дулиттл, появился в 1966 году. Его придумал американский специалист в области искусственного интеллекта Джозеф Венценбаум. Элиза разговаривала шаблонно, а в непонятных ей случаях просто отвечала: «Я понимаю…» Кстати, Иван Оселедец считает, что знаменитая Алиса «Яндекса» ушла не очень далеко от Eliza. Хотя шутки и дерзости у нее прописаны гораздо лучше.


Революция deep learning началась 4-5 лет назад только потому, что появились сравнительно дешевые вычислительные мощности (они позволили массово заниматься этими алгоритмами), а также большие массивы размеченных данных, которые помогают обучению алгоритмов.

Кстати, еще один миф: искусственный интеллект — это очень сложно. Ничего подобного! На сносном уровне программировать алгоритмы ИИ довольно легко. «Входной билет в этот рынок непристойно дешев», — уточняет Иван Оселедец.

Миф 5: "Искусственный интеллект может все"

Как мы уже говорили, каждый алгоритм ИИ предназначен всего лишь для решения одной задачи или небольшой группы схожих задач. Программа, «заточенная» под игру в шахматы, не сможет распознать раковую опухоль на томограмме, да и вообще не поймет, что это такое. Игры с полностью заданным комплексом правил, по словам Ивана Оселедца, это самое простое для ИИ: «Шахматы, крестики-нолики… Когда приходится играть в StarCraft, где есть элемент случайности, ему гораздо сложнее».

В чем действительно хорош ИИ, так это в распознавании изображений и голоса, а также в машинном переводе с языка на язык. Например, «балалайка» (описана Вадимом Пановым в пенталогии «Анклавы»), которая придумана как искусственный синхронный переводчик с любого языка на любой в режиме реального времени, дело не очень большого количества лет. И вот переводчиков-синхронистов она действительно может отправить на пенсию.

Неудивительно, что в этом году произошло немыслимое ранее: два полностью парализованных пациента, набирая слова силой мысли при помощи системы «НейроЧат», созданной в рамках дорожной карты NeuroNet, смогли поговорить друг с другом: один говорил на русском, другой — на английском, а искусственный интеллект в режиме реального времени переводил их неспешный диалог.

Однако мифы об искусственном интеллекте не только развеивают, но и воплощают в жизнь. Заведующий лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев поясняет: «Нейросети очень активно продвинулись в распознавании речи, в то время как в области общения на естественной речи они еще мало задействованы». И амбициозный проект iPavlov эту ситуацию призван кардинально изменить. Совместно со Сбербанком лаборатория под руководством Бурцева планирует преодолеть технологический барьер «в области содержательного человеко-машинного общения на естественном языке через создание и введение в бизнес-практику инструментов, снижающих порог входа на рынок текстовых диалоговых систем».

«Мы создаем библиотеку нейросетевых архитектур, которыми смогут пользоваться все российские компании, чтобы захватывать мировой рынок», — уверен Бурцев.

Нацелена в будущее и другая разработка, сделанная в рамках дорожной карты NeuroNet, — антропоморфный робот Алиса Зеленоградова, созданный компанией «Нейроботикс»Алиса умеет распознавать речь и оценивать эмоции по лицу собеседника. «Разрабатывая ее, мы осваиваем очень сложные технологии: большое количество двигателей одновременно должно выполнять какую-то определенную функцию, чтобы выражать эмоции», — комментирует генеральный директор «Нейроботикса» Владимир Конышев. Но на данный момент ее функционал ограничен. «Пока этот робот не может принести какую-то прямую пользу, — развенчивает миф Конышев. — Он может отвечать на вопросы, работать в клиниках на входе, подсказывая посетителям, как пройти к хирургу или терапевту, но выполнение сложных задач ограничено». Однако компания работает над тем, чтобы усовершенствовать свое детище, во взаимодействии с другими участниками рынка.

Искусственный интеллект по-настоящему хорошо умеет искать аномалии в огромном потоке данных, что критически важно для контроля состояния все усложняющейся техники (особенно отметим авиационную технику, суда и атомные реакторы — сразу три рынка НТИ: AeroNet, MariNet и EnergyNet).

А вот там, где не будет большого объема размеченных данных для обучения, ИИ может не справиться. Поэтому сейчас ведутся поиски принципиально новых алгоритмов для обучения ИИ на минимальном наборе стартовых данных: например, в Тюмени в компании «ОКАС», получившей грант по программе «Развитие-НТИ» трека NeuroNet, автомобиль учат запоминать действия водителя при повороте на дороге, чтобы далее делать повороты автоматически. 



Робот компании «Нейроботикс» Алиса Зеленоградова


Миф 6: "Искусственный интеллект надо ограничивать, иначе появится «Скайнет»"

Кто из нас не помнит фильм «Терминатор», где компьютеры объединились во враждебный глобальный разум «Скайнет», чтобы начать войну с машинами! Один из ведущих специалистов по искусственному интеллекту, автор шахматной программы SmarThink и популяризатор машинного обучения Сергей Марков любит цитировать создателя стэнфордского курса по машинному обучению Эндрю Ына, который сравнивает проблему опасности ИИ с проблемой перенаселения Марса. 

Волноваться о появлении подобного «Скайнету» слишком рано. Во-первых, чтобы принимать самостоятельные решения и проявлять инициативу, ИИ как минимум надо обзавестись сознанием. Но пока вообще нет оснований говорить об этом: мы даже о сознании человека имеем весьма туманное представление.

Во-вторых, серьезным барьером для стремительного развития искусственного интеллекта является то обстоятельство, что при переходе от простых к более сложным задачам время вычислений растет не линейно, а экспоненциально. Многие интеллектуальные задачи относятся к классу сложности exptime (от exp — «экспонента» и time — «время»): время, нужное на их решение, это экспоненциальная функция от размерности. Увы.

В-третьих, это фундаментальные и технологические барьеры. Так, из фундаментального принципа неопределенности Гейзенберга, который говорит о том, что в квантовом мире нельзя одновременно точно определить все параметры частицы, неожиданно вытекает предел Бремерманна. Этот термин, названный в честь математика и биофизика Ханса-Йохима Бремерманна, означает, что некоторый компьютер (то есть любая вычислительная система) заданной массы в нашей материальной вселенной будет иметь конечную максимальную скорость вычислений.


Еще один ограничивающий принцип — это принцип Ландауэра, сформулированный в 1961 году в IBM и основанный на фундаментальных физических константах: в любой вычислительной системе при потере (обработке) одного бита выделяется некоторое минимальное количество энергии. Что это значит? Сверхкомпактным сверхмощный компьютер сделать не получится — система будет концентрированно выделять слишком много энергии и разрушит сама себя.

«Есть очень серьезные основания полагать, что сверхинтеллектуального, сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойден. Насколько это опасно? Скорее всего, не очень, — говорит Сергей Марков в своей статье на портале Newtonew. — Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что у вас появится способность уговорить любого прохожего отдать вам свой кошелек?»

Впрочем, сейчас проявляются другие опасности, о которых разработчики ИИ не подозревали.

Иван Оселедец говорит, что они таятся в самом «человеческом факторе». Все системы искусственного интеллекта тренируются на больших данных и работают с ними. Принципы отбора этих данных составляют эксперты — живые люди, которые могут совершить ошибку или вообще исходить из неверной теоретической модели. Поэтому сами данные являются неким следом работы эксперта или экспертов, переведенным в цифру, что значительно повышает шансы на ошибочные, неверные и даже опасные результаты деятельности ИИ, который обработает такие «необъективные данные».

Допустим, если построить ИИ-судью, то его нужно будет тренировать на реальных решениях суда. Но нет гарантии, что в решениях живых судей не возникнет системной ошибки. А ведь многие системы искусственного интеллекта уже решают, например, выдавать ли кредит.

В итоге большинство популярных суждений об искусственном интеллекте создает его образ, весьма далекий от реальности. Преувеличиваются не только достоинства, но и опасности. И тем, и другим, конечно же, есть место, правда, они могут абсолютно противоречить ожиданиям.

СПРАВКА

Что такое искусственный интеллект

Самостоятельно думающие машины появляются в научной фантастике начала XX века (вспомним «R.U.R.» Карла Чапека), но сам термин «искусственный интеллект» и связанная с ним научная область имеют точное время и место появления. В 1956 году на конференции в Дартмутском университете Джон Маккарти дал определение: «ИИ — это наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ».

В начале 1980-х годов ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта: «Искусственный интеллект — это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы традиционно связываем с человеческим разумом: понимание языка, обучение, способность рассуждать, решать проблемы и т.д.».

Позже к ИИ стали относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как это делал бы размышляющий над их решением человек.

Впрочем, существует точка зрения, согласно которой интеллект может быть только биологическим феноменом. Как указывает председатель Петербургского отделения Российской ассоциации искусственного интеллекта Т.А. Гаврилова, в английском языке словосочетание artificial intelligence не имеет той слегка фантастической антропоморфной окраски, которую оно приобрело в довольно неудачном русском переводе. Слово intelligence означает «умение рассуждать разумно», а вовсе не «интеллект», для которого есть английский аналог intellect.

Участники Российской ассоциации искусственного интеллекта дают следующие определения искусственного интеллекта:

1. Научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными.

2. Свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека. При этом интеллектуальная система — это техническая или программная система, способная решать задачи, традиционно считающиеся творческими, принадлежащие конкретной предметной области, знания о которой хранятся в памяти такой системы. Структура интеллектуальной системы включает три основных блока — базу знаний, решатель и интеллектуальный интерфейс, позволяющий вести общение с ЭВМ без специальных программ для ввода данных.

3. Наука под названием «искусственный интеллект» входит в комплекс компьютерных наук, а создаваемые на ее основе технологии относятся к информационным технологиям. Задачей этой науки является воссоздание с помощью вычислительных систем и иных искусственных устройств разумных рассуждений и действий.

Одно из частных определений интеллекта, общих для человека и машины, можно сформулировать так: «Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь, эвристические) для решения задач определенного класса сложности и решать эти задачи».

Источник: Википедия.

Автор: Алексей Паевский

#искусственный интеллект

Подписка на обновления

«Информбюро 20.35» делает почтовую рассылку самых интересных публикаций один раз в неделю. Введите свой адрес, чтобы получать рассылку и всегда быть в курсе событий.