AI: что это и как расшифровывается — как работает искусственный интеллект, чем ИИ отличается от нейросети и машинного обучения, что такое AGI и думает ли ИИ как человек | BigChatHub
AI — что это такое: искусственный интеллект простыми словами
Что такое AI и как расшифровывается, чем ИИ отличается от нейросети и машинного обучения и что сами разработчики пишут о том, думает ли ИИ как человек.
AI — что это такое? Сокращение от английского Artificial Intelligence, по-русски ИИ, искусственный интеллект. Так называют технологии, которые решают задачи, раньше требовавшие человека: узнать предмет на снимке, ответить на вопрос, обыграть чемпиона мира в шахматы.
А думает ли при этом машина? Алан Тьюринг ещё в 1950 году назвал этот вопрос слишком бессмысленным, чтобы его обсуждать, и предложил спрашивать другое. Что именно, разберём ниже. А главное, посмотрим, что пишут об этом сегодня сами разработчики нейросетей.
AI, ИИ, искусственный интеллект: что означают эти слова
Три записи, одно понятие. Английская аббревиатура AI, русская ИИ и полная форма «искусственный интеллект». Словосочетание artificial intelligence впервые стоит в заголовке заявки на летний исследовательский семинар, датированной 31 августа 1955 года.
Определений у ИИ несколько, и это не беспорядок. Каждое подчёркивает своё.
Джон Маккарти, один из авторов той самой заявки, определял ИИ как науку и инженерию создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. А интеллект — как вычислительную часть способности достигать целей в мире. На вопрос, не занимается ли ИИ имитацией человеческого интеллекта, он отвечал: иногда, но не всегда и даже не обычно. Большая часть работы в этой области, по Маккарти, изучает задачи, которые мир ставит перед интеллектом, а не людей или животных.
В России у понятия есть официальное определение. Его даёт Национальная стратегия развития искусственного интеллекта, утверждённая указом президента от 10 октября 2019 года № 490. Действует редакция указа от 15 февраля 2024 года № 124. Звучит так:
«искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их».
Но есть важная оговорка: пункт с определениями начинается словами «для целей настоящей Стратегии». Это рабочее понятие государственной стратегии, а не закон об ИИ.
У определения из указа есть полезная деталь: оно разводит сам ИИ и модель ИИ. ИИ — это комплекс: инфраструктура, программы, процессы обработки данных. А модель ИИ — это программа для ЭВМ, предназначенная для интеллектуальных задач.
В статьях на эту тему встречается спор «ИИ это программа или нет?». Указ снимает его одной строкой: модель — программа, ИИ — шире.
Причём определение живое: в 2024 году его поправили. Из него исключили слова «самообучение и», а формулировку о результатах, сопоставимых «как минимум» с человеческими, заменили на результаты, сопоставимые с ними «или превосходящие их».
Как работает ИИ: правила или обучение
Заставить машину решать одну задачу можно двумя принципиально разными способами. Нагляднее всего это видно на шахматах, где два знаменитых случая разделяют двадцать с небольшим лет.
Способ первый: правила, составленные людьми. В мае 1997 года в Нью-Йорке компьютер IBM Deep Blue обыграл Гарри Каспарова. Счёт 3,5 : 2,5.
Это была первая компьютерная система, победившая действующего чемпиона мира в матче с обычным турнирным контролем. А годом раньше Каспаров выиграл у неё же: 4 : 2.
Сила Deep Blue, по описанию IBM, была в вычислительной мощи: 32 процессора и 200 млн оценённых позиций в секунду. К матчу-реваншу команда усилила функцию оценки позиций и наняла дополнительных гроссмейстеров-консультантов. Позже в DeepMind написали, что такие шахматные программы опираются на тысячи правил и эвристик, составленных сильными шахматистами.
Способ второй: обучение. В 2018 году DeepMind опубликовала в журнале Science работу об AlphaZero. Эта программа знала только правила игры, а играть училась сама, в миллионах партий против себя. На шахматы ушло около девяти часов.
Против Stockfish, одного из сильнейших шахматных движков, AlphaZero в матче из тысячи партий одержала 155 побед при шести поражениях.
Посмотрите на разницу в переборе. AlphaZero оценивала около 60 тысяч позиций в секунду, Stockfish — около 60 млн. И программа, которая просматривала в тысячу раз меньше вариантов, выигрывала: она не перебирала всё подряд, а научилась оценивать, какие варианты стоит смотреть.
Современные чат-боты идут вторым путём. OpenAI, разработчик ChatGPT, описывает, как учится большая языковая модель. При обучении она анализирует, какие слова обычно стоят рядом, а при ответе предсказывает следующее наиболее вероятное слово, по одному слову за раз.
Пример из справки OpenAI: модель учится дописывать фразу «Вместо того чтобы повернуть налево, она повернула ___». В начале обучения ответы почти случайны.
Знания такой модели — это не архив текстов. Модели, по словам OpenAI, представляют собой большие наборы чисел, которые называют весами или параметрами, и копий обучающих данных не хранят. В указе почти то же: параметры модели — числовые значения, определяющие её работу.
Отсюда частый вопрос, который мы разбираем: ChatGPT — это и есть искусственный интеллект? По документам OpenAI сейчас ChatGPT — сервис на основе ИИ, внутри которого работают модели.
Эта путаница понятна. В посте о запуске 30 ноября 2022 года та же OpenAI называла ChatGPT дообученной моделью из серии GPT-3.5. Смешивать модель и сервис невольно помогает сам разработчик.
Чем ИИ отличается от машинного обучения и нейросети
Deep Blue, AlphaZero и ChatGPT — всё это искусственный интеллект. Но где здесь машинное обучение, а где нейросеть?
Три термина постоянно путают, хотя они отвечают на разные вопросы. Удобнее всего задать эти вопросы одной и той же системе.
●Что она умеет? Если решает задачу, для которой раньше нужен был человек, то это искусственный интеллект.
●Откуда у неё это умение? Если оно получено из данных или опыта, а не записано людьми в виде правил, то это машинное обучение.
●Как она устроена внутри? Если внутри слои связанных вычислительных элементов с настраиваемыми числами, то это нейросеть. Подробнее о том, как устроена нейронная сеть, читайте в глоссарии.
Похоже на то, как про одну машину говорят «грузовик», «дизельный» и «стальной». Это ответы на три разных вопроса: что делает, откуда берёт энергию, из чего сделана. И ни одно из слов не заменяет другое.
Теперь зададим эти три вопроса системам, о которых уже шла речь.
Deep Blue. Обыгрывает чемпиона мира — значит, ИИ. Умение, по описанию DeepMind, держится на правилах и эвристиках, составленных людьми, и на переборе. Главную работу здесь делают не обучение на данных, а правила и перебор.
AlphaZero. Обыгрывает чемпиона мира среди шахматных программ, так что это тоже ИИ. Играть она научилась в партиях против себя: это машинное обучение, точнее обучение с подкреплением. А по словам DeepMind, правила, составленные вручную, в ней заменены глубокой нейросетью.
ChatGPT. Отвечает текстом — ИИ. Умение взялось из обучения на больших объёмах текста, а это машинное обучение. Устройство: в техническом отчёте о GPT-4 OpenAI называет её моделью на основе трансформера, а трансформер — архитектура нейросети.
Два вывода. Первый: ИИ может держаться прежде всего на правилах и переборе, а не на обучении, как Deep Blue. Второй: «нейросеть» и «ИИ» не синонимы, нейросеть — один из способов устроить систему.
И сама идея учить машину, а не программировать её, старше самого термина. Ещё в статье 1950 года Тьюринг спрашивал: вместо того чтобы писать программу, имитирующую ум взрослого, почему бы не попробовать написать такую, которая имитирует ум ребёнка?
Шахматы — удобный пример, но ИИ давно вышел за доску. За одну из работ в этой области дали Нобелевскую премию. Какую и за что, расскажем в следующем разделе.
Где работает искусственный интеллект
Где работает ИИ, проще всего описать не списком сервисов, а тем, что он делает. Указ перечисляет основные технологии ИИ, по ним и пойдём.
●Видит. Компьютерное зрение: распознавание объектов, текста и сцен на изображениях и видео.
●Работает с языком. Обработка естественного языка: анализ и составление текста, ответы на вопросы, пересказ.
●Слышит и говорит. Распознавание и синтез речи: голосовые помощники, озвучка текста, расшифровка разговоров.
●Помогает решать. Интеллектуальная поддержка принятия решений: системы, которые, по формулировке указа, помогают человеку принимать решения.
●Создаёт. Большие генеративные модели. В перечень технологий их не включили, но в 2024 году указ дал им отдельное определение: они умеют интерпретировать и создавать тексты, изображения, видеоматериалы на уровне, сопоставимом с человеческим или превосходящем его.
Одно из самых громких применений последних лет пришлось на науку. В 2020 году Демис Хассабис и Джон Джампер из Google DeepMind представили модель AlphaFold2. С её помощью предсказали структуру практически всех 200 млн белков, известных исследователям. По данным Шведской королевской академии наук, моделью воспользовались больше двух миллионов человек из 190 стран.
В 2024 году Хассабис и Джампер получили половину Нобелевской премии по химии за предсказание структуры белков. А вторая половина досталась Дэвиду Бейкеру за компьютерный дизайн белков.
История ИИ: от Тьюринга до Нобелевской премии
ИИ старше интернета, и его история — не прямая линия прогресса, а волны ожиданий и охлаждений. И шум вокруг «думающих машин» шёл с первых лет.
●1950. Статья Алана Тьюринга «Computing Machinery and Intelligence» в журнале Mind начинается фразой: «Я предлагаю рассмотреть вопрос: могут ли машины думать?» Дальше Тьюринг заменяет этот вопрос игрой в имитацию — именно это его предложение и называют тестом Тьюринга.
●1955–1956. Джон Маккарти, Марвин Минский, Натаниэль Рочестер и Клод Шеннон подают заявку на двухмесячный семинар по искусственному интеллекту летом 1956 года в Дартмутском колледже. В заявке они формулируют исходную гипотезу области: каждый аспект обучения или любое другое свойство интеллекта в принципе можно описать настолько точно, что машину можно заставить его имитировать. Сам Дартмут называет этот семинар рождением области.
●1958. Перцептрон на компьютере IBM 704 показывает Фрэнк Розенблатт из Корнеллской авиационной лаборатории. После 50 попыток машина сама научилась отличать карточки с меткой слева от карточек с меткой справа.
●1966. Джозеф Вейценбаум публикует описание ELIZA, программы для изучения общения человека с машиной на естественном языке.
●1969. Выходит книга Минского и Сеймура Пейперта «Perceptrons». По оценке материала Корнеллского университета, она по сути решила судьбу перцептрона, а история его взлёта и падения помогла наступить «зиме ИИ», когда государственные деньги на исследования ИИ в США надолго иссякли.
●1997. Матч-реванш с Каспаровым выигрывает Deep Blue.
●2012. Глубокая свёрточная нейросеть Алекса Крижевского, Ильи Суцкевера и Джеффри Хинтона распознаёт объекты на изображениях заметно лучше прежних лучших методов.
●2017. В работе «Attention Is All You Need» исследователи Google предлагают новую архитектуру нейросети — трансформер.
●2020. DeepMind представляет AlphaFold2.
●2022. 30 ноября выходит ChatGPT.
●2024. Нобелевскую премию по физике получают Джон Хопфилд и Джеффри Хинтон за фундаментальные открытия и изобретения, которые делают возможным машинное обучение на искусственных нейросетях. Премия по химии уходит за AlphaFold2 и дизайн белков.
Про шум — два примера из первых десятилетий. Журнал The New Yorker назвал перцептрон с его карточками первым серьёзным соперником человеческого мозга. А про ELIZA в Стэнфордской энциклопедии философии приводят довод критиков теста Тьюринга: вполне неинтеллектуальные программы вроде неё могут подолгу казаться обычному наблюдателю средоточием интеллекта.
Слабый и сильный ИИ: что такое AGI
Если AlphaZero обыгрывает любого человека, почему её относят к слабому ИИ?
Потому что «слабый» здесь значит узкий, а не слабый по силе. Указ описывает это так: решения на машинном обучении — пример ИИ, способного решать только узкоспециализированные задачи, это слабый ИИ. А универсальный, или сильный, ИИ способен, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям. Создание такого ИИ указ называет сложной научно-технической проблемой.
В 2024 году в указ добавили отдельное определение сильного ИИ. Это тип ИИ, который способен выполнять различные задачи, взаимодействовать с человеком и самостоятельно, без участия человека, адаптироваться к изменяющимся условиям. Слова «мыслить» в новом определении нет. Но старый пункт со словом «мыслить» остался в действующей редакции, и в документе теперь уживаются две формулировки.
Но единого определения нет. Исследователи Google DeepMind в работе об уровнях AGI разбирают девять заметных определений. Их принцип: судить надо по способностям, а не по процессам. Системам AGI, пишут они, не обязательно думать или понимать так, как человек.
По их шкале AlphaZero, AlphaFold и Stockfish — узкий ИИ высшего уровня, «сверхчеловеческий». Он превосходит всех людей, но в узком круге задач. А ChatGPT, Llama 2 и Gemini в версиях 2023 года они относят к первому уровню общего ИИ, «зарождающемуся», на уровне неквалифицированного человека или немного лучше.
Для некоторых компаний AGI — прямая цель. OpenAI формулирует свою миссию так: добиться того, чтобы общий искусственный интеллект приносил пользу всем. А устав компании определяет AGI как высокоавтономные системы, превосходящие людей в большей части экономически ценной работы.
Частые заблуждения об ИИ
В Anthropic, компании-разработчике Claude, пишут: языковые модели не программируются людьми напрямую, их обучают на больших объёмах данных. Поэтому «мы не понимаем, как модели делают большую часть того, что они делают». С этой фразы полезно начинать любой разговор о том, что ИИ «думает» или «знает».
«ИИ думает и понимает, как человек»
Здесь стоит развести три вещи: что известно, что остаётся открытым и что — просто язык.
Что известно. Разработчики сами описывают, как отвечают их модели. По справке OpenAI, модель предсказывает следующее наиболее вероятное слово. У фразы много правдоподобных продолжений, поэтому в ответах есть элемент случайности, и один и тот же вопрос может дать разные ответы.
В документации Сбера о GigaChat то же самое: модель может генерировать разные ответы на один и тот же вопрос в зависимости от контекста диалога. Для вас это практическая подсказка: другой ответ на повторный вопрос — не поломка, а устройство.
Но «просто угадывает следующее слово» — тоже упрощение. Исследователи Anthropic изучали, как Claude сочиняет рифмованные стихи, и обнаружили, что модель планирует наперёд. Ещё до начала второй строки она перебирает слова, рифмующиеся с концом первой, и пишет строку под выбранное слово.
Что открыто. Как именно большие модели приходят к ответам, их создатели ещё выясняют. Те же исследователи Anthropic оговаривают, что их метод улавливает лишь часть вычислений модели и может давать искажения. Поэтому на вопрос «понимает ли ИИ» честно не ответить ни «да», ни «нет»: он открыт.
Заметьте: авторы определений ИИ сами обходят слово «мыслить». Тьюринг отказался обсуждать вопрос «могут ли машины думать» и заменил его проверкой поведения. Исследователи DeepMind предлагают судить AGI по способностям, а не по процессам внутри. А в новом определении сильного ИИ в указе 2024 года слова «мыслить» уже нет.
Что — просто язык. Слово «понимает» в описаниях сервисов обычно употребляют в бытовом смысле. В той же справке OpenAI пишет, что ChatGPT создан, чтобы понимать запросы и отвечать на них, а механизм там же описывает как предсказание слов.
Причём так о машинах писали и раньше. Об обучающемся перцептроне в 1958 году The New York Times написала, что новое устройство учится на практике, а психолог показал «зародыш» компьютера, задуманного читать и становиться мудрее.
«Если ИИ ответил уверенно, значит, знает»
Уверенный тон ничего не говорит о точности. В посте о запуске ChatGPT OpenAI сама предупреждала: модель иногда пишет правдоподобные, но неверные или бессмысленные ответы. А в документации Сбера проще: модель может «фантазировать».
Откуда это берётся, объясняют исследователи OpenAI и Технологического института Джорджии в работе о том, почему языковые модели выдумывают. По их выводу, процедуры обучения и оценки поощряют угадывание, а не признание неуверенности: модели оптимизированы быть хорошими сдающими тесты. Пример из той же работы: передовую открытую модель спросили о дне рождения одного из авторов с условием отвечать, только если она знает. И за три попытки она назвала три разные неверные даты.
Это явление называют галлюцинациями нейросетей, хотя авторы работы оговаривают, что от человеческого восприятия оно принципиально отличается.
«Как ИИ пришёл к ответу, он расскажет сам»
Расскажет. Но рассказ не обязательно совпадает с тем, что происходило внутри.
Исследователи Anthropic проследили, как Claude складывает 36 и 59. На деле модель шла параллельными путями: один считал приблизительный ответ, другой точно определял последнюю цифру. А когда её спросили, как она получила 95, модель описала стандартный школьный способ с переносом единицы.
Та же проблема есть и в указе: алгоритмы работы нейронных сетей крайне сложны для интерпретации. Отсутствие понимания того, как ИИ достигает результатов, указ называет одной из причин низкого уровня доверия к нему.
Этика и риски ИИ
Разговор о рисках ИИ легко свести к страшилкам. Полезнее спросить другое: что записано в документах?
●Объяснимость. Указ включает её в обязательные принципы развития ИИ: прозрачность — это объяснимость работы ИИ и процесса достижения им результатов. Как видно из раздела о заблуждениях, для больших нейросетей это пока нерешённая задача.
●Качество данных. Чтобы решение ИИ было непредвзятым, нужен, по формулировке указа, репрезентативный, релевантный и корректно размеченный набор данных. Ведь модель учится на том, что ей дали, и перенимает перекосы данных вместе с закономерностями.
●Права и персональные данные. Среди принципов указа — защита прав и свобод человека, включая право на труд, и безопасность, в том числе предупреждение рисков несоблюдения конфиденциальности персональных данных.
●Труд. Громкие цифры о том, какую долю профессий «заменит ИИ», надёжной основы под собой не имеют. А государство ставит этот вопрос иначе: как задачу для исследований. В редакции 2024 года указ предусматривает изучение последствий широкого внедрения ИИ, в том числе его влияния на когнитивные способности человека и рисков замещения человеческого труда.
●Ответственность. В российском Кодексе этики в сфере ИИ записано: ответственность за последствия применения систем ИИ всегда несёт человек. Кодекс также рекомендует честно сообщать пользователю, что он общается с ИИ, когда это затрагивает права человека и критически важные сферы его жизни, и давать возможность это общение прекратить. К кодексу присоединяются добровольно: это не закон, а договорённость участников отрасли.
Что дальше: почему прогнозы об ИИ расходятся
Когда ИИ сможет всё, что умеет человек? Ответ зависит от того, как задать вопрос.
Осенью 2023 года исследователи AI Impacts с соавторами опросили 2 778 учёных, публиковавшихся на шести ведущих площадках по искусственному интеллекту — пяти конференциях и в одном журнале. Участников случайно разделили на две группы, и каждая получила вопрос в своей формулировке.
●«Машины без помощи людей смогут выполнять любую задачу лучше и дешевле людей». Вероятность 10 % — к 2027 году, 50 % — к 2047-му. Это на 13 лет раньше, чем в таком же опросе за год до этого.
●«Все профессии можно будет полностью автоматизировать». Вероятность 10 % — к 2037 году, 50 % — к 2116-му.
Разница между двумя ответами — около 70 лет. Авторы честно пишут, что не знают, чем объясняется этот разрыв. Они же пишут, что прогнозы экспертов не стоит считать надёжным ориентиром: исследователи ИИ — специалисты в исследованиях, а не в предсказаниях будущего.
Поэтому на любую фразу вида «AGI появится через N лет» задавайте встречный вопрос: а что под AGI имеют в виду и как спрашивали?
А вот цели ставят вполне конкретные. В редакции 2024 года указ предусматривает поддержку исследований, в том числе по формированию условий для создания сильного ИИ. OpenAI называет AGI своей миссией. А в работе DeepMind об уровнях AGI отдельно разводят два вопроса: насколько система способна и насколько самостоятельно ей позволяют действовать.
Частые вопросы
Как расшифровывается AI?
Artificial Intelligence — искусственный интеллект. По-русски сокращают как ИИ. Обе аббревиатуры означают одно и то же.
Почему у стольких нейросетей адрес на .ai?
.ai — национальный домен верхнего уровня острова Ангилья, им управляет правительство Ангильи. К искусственному интеллекту домен отношения не имеет: совпадают только буквы.
Что за файл с расширением .ai?
Это тоже не искусственный интеллект. Расширение .ai носят файлы Adobe Illustrator: это собственный формат компании для векторной графики.
С какого года существует искусственный интеллект?
Термин появился в заявке на Дартмутский семинар, датированной 31 августа 1955 года, а сам семинар летом 1956-го считают рождением области. Статья Тьюринга о том, могут ли машины думать, старше и заявки, и семинара: она вышла в 1950 году.
Искусственный интеллект — не электронный разум, а способ получить от машины результат, для которого раньше нужен был человек. А как именно к нему приходят большие нейросети, их создатели ещё только выясняют. Если хочется от понятия перейти к делу, начните с обзора AI-инструментов по задачам.
