AI и виртуальные миры. Статья 1: основы AI - Блог казуального геймера- Блог казуального геймера

AI и виртуальные миры. Статья 1: основы AI

IR

Для начала небольшая преамбула. В текстах GK-цикла довольно много места уделено искинам. Достаточно сказать, что сюжет последнего романа — «Хаос-генератор» — целиком и полностью крутится над историей того, как группа искинов обрела автономность, независимость от людей. Другими словами, искусственный разум эта одна из центральных тем GK-цикла. Да и самой этой проблемой я интересовался достаточно давно. Правда, больше это выражалось в чтении таких авторов как Лотман, нежели в изучении трудов великих математиков, которые занимались научными разработками в этой области.

Именно поэтому я публикую материал одного из моих читателей, Виталия, который уже сделал материалы для этого блога. Статья дает вводную информацию относительно искусственного интеллекта в частности — ретроспектива того как развивалась эта концепция и кто к этому приложил руку. Предупреждаю сразу — под катом стена текста, для понимания которой необходимо хотя бы шапочно быть знакомым с историей философии и кибернетики.

AI и виртуальные миры. Статья 1: основы AI

Взаимоотношения AI и виртуальных миров – весьма сложная тема. Дело в том, что оба предмета объединяет довольно длинный ряд концепций, выходящих далеко за пределы технологий и относящихся скорее к философским конструкциям. Я попробую кое-что рассказать о них, зайдя со стороны AI – где они выражены яснее.

Вокруг AI в данный момент существует масса мифов. Массовая культура тут делает свое дело. Как правило, AI или превозносят, или боятся. Ну, все мы смотрели и читали разное – от азимовского “Я, робот” (не кино) до «Терминатора». Мифы эти достаточно закрепились, и отчасти AI воспринимается через их призму. О некоторых из них, я, наверное, скажу.

Но дело в том, что такой предмет, как AI, существовать без мифов не может в принципе. Это особенность любых вещей такой сложности – это, на мой взгляд, служит их упрощению и мотивации людей, которые с ними работают. Есть свои официальные, но не очень широко известные, легенды и у AI.

История: легенды

Это я сделал видимыми для человеческих очей пылающие знаки в небесах, что до тех пор были в тумане. Недра земли, скрытое благословение человечества, медь, железо, серебро и золото – осмелится ли кто-нибудь заявить, что он открыл их ранее меня? Я уверен, никто, если он не лжец. Говоря кратко: все ремесла, что есть у смертных, идут от Прометея.

Эсхил, “Прометей прикованный”

golem2

Прометей дал людям не только огонь. По легенде, его даром так же был nouns. Это слово можно перевести как “ум”, “сообразительность”, или – рациональное мышление. Дар Прометея вывел людей из под власти богов, они перестали быть куклами, марионетками.

У этого мифа есть и другая сторона. Все помнят, какой была кара Зевса. И эта сторона очень сильно прижилась в традиции западной философии. Это мысль о том, что человеческое стремление к знаниям является проступком перед богами или природой. В западной традиции она существует почти везде – начиная от мифа про райский сад и яблоко, продолжаясь через средневековье и Возрождение до 19 века и нашего времени.

Окончательная связь, пожалуй, возникла в 19 веке. В предисловии к “Франкенштейну” Мери Шелли пишет о беседах ее мужа с Байроном об опытах, которые они приписывали Дарвину – о создании жизни из неживого. Шелли и Байрон пришли к выводу, что, наверное, создать жизнь так нельзя – но можно оживить мертвое по частям. Результатом этих бесед и стала книга “Франкенштейн” с подзаголовком “Новый Прометей”, которая, видимо, бесповоротно связала западную традицию с мифом о Прометее.

Но отсюда же видно, что исследования Дарвина, опыты с электричеством – все это позволило еще в 19 веке отказаться от мысли, что жизнь – это божественное творение, чудо. Даже далекие от науки люди видели, что ее можно исследовать, разбирать на части и собирать снова. Чудовище Франкенштейна – это не продукт заклинаний или сделки с дьяволом, это наука.

Все сказанное примерно тогда же начали относить и к разуму.

Разумеется, этическая проблема интеллектуального честолюбия весьма сильна в этом контексте, особенно сейчас, с развитием технологии, когда ее прогресс может привести к страшным катастрофам. Но на мой взгляд, непосредственно AI сильно нивелирует эту опасность тем, что по мере изучения интеллекта выводы получаются настолько парадоксальными, что заставляют прежде всего пересмотреть взгляды на собственный интеллект, после чего честолюбие сильно отходит на второй план.

История: ранние подходы

Корни AI лежат очень глубоко. Вся история исследований в этой области насчитывает несколько тысяч лет. Поэтому затруднительно перечислить всех, кто что-то делал в ней; в принципе, можно просто открыть энциклопедию, найти первого попавшегося ученого – и с вероятностью если не в 50, то в 30 процентов он причастен к AI. Но назвать некоторых все же стоит.

golem

Первым был, пожалуй, Аристотель. Именно он смог объединить интуицию и наблюдения с логикой. Ему же принадлежит идея различия между материей и формой, а также – первые попытки создания формальной логики. Обе эти вещи весьма важны для предмета AI.

Пропуская много кого еще, дальше следует упомянуть, как ни странно, Коперника. Дело, в общем, совсем не в гелиоцентрической модели. Просто в первый раз представления о мире рассматривались как нечто отличное от видимости. Это принципиально для современных теорий AI, то, что очевидное – вовсе не очевидно, а представление о мире не то, что сам мир. Собственно, именно оттуда началось изучение философами эпистемологии и математики, там же – корни научного метода.

Вспоминая дальше – Декарт; первая попытка найти основу реальности методами когнитивной интроспекции, то есть отвергая информацию, поступающую от органов чувств как ненадежную. Что, в конечном итоге, позволило рассматривать процесс мышления отдельно от восприятия.

Дальнейшее развитие шло в основном в русле освоения формальной логики. Из теоретиков тут были: Эйлер, Буль, еще несколько человек; к практикам я бы отнес Бэббиджа.

Несколько более сложно и позднее это получает развитие в работах Фреге (исчисление предикатов первого порядка – язык записи теорем) и Тарского (теория ссылок, согласно которой правильно построенные формулы Фреге ссылаются на обьекты реального мира).
Но тут мы подходим к одному очень большому и слабо осознаваемому даже на сегодняшний день событию, которое во многом определило в дальнейшем AI как науку.

electorhead

В конце 19 века в математике наметилась одна странная тенденция. Дело в том, что ряд вполне практических задач, поставленных математиками, мог выдать формальное решение, которого не могло быть в реальном мире. Чтобы пояснить это, можно вспомнить школу и квадратные уравнения, которые при определенных условиях могут дать корень из отрицательного числа. Это слабо представимо в реальном мире. Можно себе представить два яблока плюс два яблока, можно вообразить даже минус яблоко как яблоко, которое надо сразу отдать, но корень из минус единицы яблок – это уже что-то другое.

Давид Гильберт поставил несколько вопросов, суть которых в том – можно ли, учитывая появление во вполне практических задачах таких объектов, говорить о том, что математика истинна, то есть, что она обладает предсказательной силой в задачах реального мира и вообще подходит как метод?

На это откликнулся много кто, но наиболее интересная работа принадлежит Расселу и Уайтхеду. Они сделали хитрый фокус. Вообще, можно сказать, что они пересобрали математику на основании теории множеств, но это звучит достаточно занудно и мало чего объясняет. По сути же, они сказали, что сами символы, которыми записываются математические выражения, являются объектами реального мира, а следовательно, к ним применима все та же математика – только уже на уровень выше. Что позволяет воспользоваться все той же математикой для поиска их истинности или ложности.

Выводы, полученные на основании этой теории, на мой взгляд, сильно круче, чем теории Коперника и Бруно, Эйнштейна и Дарвина. Очень интересно, что их мало кто заметил и замечает сейчас.

AI: начало

Если вы читали первую повесть GK–цикла, “Диспетчера атаки”, то вы, наверное, поняли, что существуют идеи, которые могут быть смертоносными сами по себе. Такое иногда происходит, хотя и весьма непривычно в таком обьеме, в каком это было рождением AI. Пастер, прививающий себе холеру, Кюри, умирающий от радиации – это понятно и привычно, это просто неосторожность со внешним миром; но интересно то, что к абстрактным идеям мы не относимся с такой осторожностью, а оказалось, зря.

Первым из тех, кого стоит упомянуть в связи с зарождением AI как дисциплины, является Курт Гедель. С помощью принципов Рассела – Уайтхеда он попробовал дать ответы на вопросы Гильберта. Ответы эти, известные как две теоремы о полноте Геделя, звучат так: да, выводы, построенные по формальным правилам математики или логики, на основании предпосылок реального мира – верны, то есть они обладают предсказательной силой; и нет, ни одна система, построенная по таким формальным правилам, никогда не даст полного описания мира, или, точнее – в системе всегда найдется обьект, не получающийся логическим выводом.

Сейчас чаще цитируют вторую из теорем о полноте, и немудрено, потому что она показывает недостаточность логики для полного познания мира. Следует только заметить, что упоминают ее довольно часто все, кому не лень (видел аж доказательство бытия божия с помощью такой теоремы), а это совсем неверно, потому что относится она только к теориям, построенным на базе логики – то есть выводам из набора аксиом, а никак не эмпирическому знанию…

Как бы то ни было, но это было сильнейшим ударом по математике, и, пожалуй, по научному позитивизму вообще.

Примерно в то же время Норберт Винер начинает свои исследования в области кибернетики, или теории систем с обратной связью. Работы Винера дали AI тоже весьма много, настолько, что они считаются сейчас чуть ли не общим и более привычным местом – но вот их выводы вели много дальше. Впрочем, об этом позже.

Где-то тогда же – работы Джона фон Неймана. Компьютер, на котором вы это читаете, построен по его принципам – в архитектуре фон Неймана. Но кроме этого, он занимался и другим. Фон Нейману принадлежат работы по клеточным автоматам – попытке придать кибернетическим системам свойства реальной жизни. Игра “Жизнь” – его выдумка, с помощью которой он показывал, что простые механические правила могут дать видимость жизни, не отличимую от реальной – или, может быть, и саму жизнь.

И ни один рассказ про AI не может обойтись без черной звезды этой дисциплины. Без Алана Матисона Тьюринга.

Electric Golem 1

Обычно его вспоминают по тесту Тьюринга. Но еще до этого, совместно с Алонсо Черчем и продолжая работы Рассела и Уайтхеда, он сформулировал теорию абстрактной вычислительной машины – машины Тьюринга, и тезис Черча – Тьюринга. Суть была в том, что любые вычисления может выполнять не специально сконструированная под них машина, но машина некоторой общей и весьма простой конструкции; но не всякая задача может вообще быть решена за конечное время, а только решаемая этой машиной. В целом, этот принцип лег в основу всего программирования и всех компьютеров.

Существует, однако, небольшая деталь. Тезис Черча – Тьюринга не вполне математичен. Он связывает интуитивное понятие вычислимости с неким математическим понятием, то есть, вообще говоря, он выходит за пределы математики и недоказуем. Дальше мы увидим, что это важно.

Ну и конечно же, знаменитый тест Тьюринга – тест AI. Он предполагает, что если в разговоре с двумя собеседниками человек не может отличить AI от другого человека (разговор предполагается вести с помощью компьютерного терминала, чтобы исключить влияние голоса, внешнего вида и тому подобного), то перед нами полноценный AI. С тестом Тьюринга связано две интересные вещи – первая в том, что он был пройден. Сам Тьюринг предсказывал, что на компьютере с определенным объемом памяти программа к 2000 году сможет таким образом выдавать себя за человека определенное время – и это сошлось достаточно точно. А вторая вещь в том, что сам тест не был придуман в качестве научной гипотезы. Его цель была ровно в том, чтобы отделить практику от уходящих далеко в философию споров – что является, а что не является разумом, потому что на тот момент они скорее тормозили развитие вычислительных систем.

Собственно, поэтому этот тест – штука достаточно спорная. Его пытались опровергнуть, иногда – весьма интересно (Джон Ширл, “китайская комната”). Но он все же остается эмпирическим критерием для некоторых систем AI.

И вот теперь мне следует сказать об одной эмоционально трудной, но важной вещи. Все эти люди закончили свою жизнь весьма плохо. Наиболее известна судьба Тьюринга – его гомосексуализм, суд над ним и то, что он покончил с собой. Но дело в том, что история смерти Тьюринга весьма туманна. После суда и химической кастрации он прожил еще около двух лет, при этом, как утверждают, он не столь уж сильно переживал эти события. В то же время он вел довольно интересные работы – он нагружал университетский компьютер какими-то расчетами из области искусственной жизни, близкими скорее к фон Нейману, чем к его работам. Все эти вычисления исчезли.

Перед смертью он разослал друзьям открытки с довольно странными стихами. Я не знаю этого точно, но думаю, что стихотворение из эпилога “Машины различий”:

Умирая, чтобы родиться.
Свет ярок,
Свет чист;
Око должно наконец узреть себя;
Я должен узреть себя…
Я вижу:
Я вижу,
Я вижу
Я

принадлежит Тьюрингу. Надкушенное яблоко тоже заставляет подумать о символах…

Курт Гедель умер позже. Он заболел паранойей, причем в весьма тяжелой форме. По сути, он уморил себя голодом, умерев от анорексии.

Джон фон Нейман умер от рака. Предполагается, что он получил дозу облучения при испытаниях атомной бомбы. Перед смертью он вел себя очень странно, например, просил позвать священника, при том, что относился к религии негативно; его друзья решили, что он сошел с ума.

Читая автобиографические книги Норберта Винера, я не мог отделаться от ощущения, что это пишет очень умный, но душевнобольной человек. В его книгах ощущается какая-то обида, причем не на людей, а, скорее, на весь мир, который оказался устроен совсем не так, как он предполагал…

Вот все это вместе и позволяет сделать неподтвержденный, но тем не менее – возможный вывод. Идеи всех четырех пошли слишком вразрез с их представлениями о мире, и это привело к смерти. Стоит, возможно, вспомнить еще конец “Хаос-генератора”. Но надо сделать еще одно замечание. Все четверо были математиками. Это важно, и сейчас я попробую рассказать, почему.

AI: современность

Как правило, программисты, приходящие в AI, уже имеют достаточно неплохое образование и опыт. Классическое образование программиста на текущий момент, как правило, состоит из двух вещей: хорошее знание математики и хорошее знание программирования как инженерной дисциплины. Математика предполагает, что программист может разобраться с применением алгоритмов, знает, что вообще все программирование идет от машины Тьюринга, и умеет быстро построить модель под конкретную задачу; а инженерная часть предполагает, что все это он умеет сделать из теории практикой, то есть спланировать и написать реализацию решения. Вообще, конечно, при всем при том каждый программист с опытом знает, что суммой математики и инженерии все далеко не кончается, что сам предмет программирования значительно сложнее… но в целом это так, и так обычно учат.

IT

Шоком для них является то, что AI – эмпирическая дисциплина.

Это действительно не осознается сразу, но AI – это не математическое решение проблемы с последующим воплощением его в коде. AI ближе к физике, геологии или астрономии. Каждая вещь, сделанная с помощью его методов – это не решение задачи, а эксперимент, вопрос природе. Если мы написали программу, а она работает не так, как нам надо – мы ошиблись. Так везде, кроме AI. Тут мы не просто признаем, что можем сделать что-то, теории и понимания чего мы пока не имеем – мы на это рассчитываем, чтобы в дальнейшем такую теорию можно было построить.

Этому есть причина. Современные теории предполагают, что предмет исследования – разум – не позволяет дать ему однозначного теоретического описания. На это сильно намекают философия, психология, и нейрофизиология. И есть одна вещь, не особо артикулируемая, но скорее – предупреждение. В самом начале этой дисциплины четыре математика пытались подойти к этой науке с точными методами. Об их судьбах я написал.

Следующая удивляющая вещь – это то, что AI вовсе не ставит себе целью создание терминаторов и скайнетов. Все это – побочно. Формально задача AI формулируется таким образом: «AI – это дисциплина, исследующая закономерности, лежащие в основе разумного поведения, путем построения и изучения артефактов, предопределяющих эти закономерности».

Это о задачах. О целях лучше всего процитировать Джона Хопкрофта:

Потенциал компьютерных наук (при его полном изучении и реализации) поставит нас на более высокую ступень знания о мире. Компьютерные науки помогут нам достичь более глубокого понимания интеллектуальных процессов. Они углубят наши знания о процессах обучения, мышления и анализа. Мы сможем построить модели и концептуальные средства для развития науки о познании. Подобно доминирующей роли физики в нашем веке при изучении природы материи и начала вселенной, сегодня на первый план выступает изучение интеллектуальной вселенной идей, структур знаний и языка. По моему мнению, это приведет к существенным улучшениям, которые в корне изменят нашу жизнь… Мне кажется, недалек тот час, когда мы поймем принципы организации знаний и управления ими.

(1987, речь по случаю вручения премии Тьюринга)

Основной объект AI – это не роботы и интеллектуальные системы, а человек. И основной вопрос AI – что такое знание?

В этой статье я не буду писать про основные теории на данный момент, но я должен упомянуть одну, которая играет роль чего-то вроде теории относительности в современной физике. Она не доказана. Но большая часть исследований опирается на нее. Это гипотеза Ньюэлла – Саймона. Она звучит так:»Физическая система проявляет разумное в широком смысле поведение тогда и только тогда, когда она является физической символьной системой».

Достаточность означает, что разумность может быть достигнута каждой правильно организованной физической символьной системой.

Bio and Techno

Необходимость означает, что каждый агент, проявляющий разумность в общепринятом смысле, должен являться физической символьной системой. Необходимое условие этой гипотезы требует, чтобы любой разумный агент, будь то человек, инопланетянин или компьютер, достигал разумного поведения путем физической реализации операций над символьными структурами.

Разумное в широком смысле поведение означает действия, характерные для поведения человека. Физически ограниченная система ведет себя соответственно своим целям, приспосабливаясь к требованиям окружающей среды.

Выводы

Я советую подумать над этой гипотезой. Собственно, из всего сказанного уже можно сделать достаточно далеко идущие выводы на тему виртуальной реальности, но в следующей статье я постараюсь показать это прямо.

Я почти не рассказал про современные подходы к AI, но это тоже – для следующей статьи; думаю, что сама история вопроса и самые общие современные взгляды позволяют понять, насколько эта наука отличается от общепринятых представлений о ней.

Author: Deckven View all posts by

10 Comments on "AI и виртуальные миры. Статья 1: основы AI"

  1. timurrv 11 Март 2013 в 11:22 -

    От радиации умерла жена Кюри, а не он сам. Его каретой раздавило, несчастный случай.

  2. Ak 11 Март 2013 в 11:48 -

    Прошу прощения за неграмотность или, может быть, невнимательность, но не пояснишь пожалуйста, что такое «физическая символьная система»?

  3. Wch 11 Март 2013 в 12:38 -

    @Ak
    Строгое определение мне не попадалось, но Ньюэлл и Саймон имели в виду воплощение полных по Тьюрингу систем в контексте того же Фреге. Иными словами, речь о том, что любые манипуляции с символами имеют физическое воплощение ( вроде того, что я сейчас пишу), и это воплощение и есть основа интеллекта.
    Иными словами, все идеальные и умозрительные представления о мире так или иначе работают на том, что вполне материально.
    Вообще, это достаточно спорная вещь. То есть, видимо, доказана достаточность физической символьной системы, но не доказана необходимость. Она действительно сейчас где-то на уровне ОТО в тот момент, когда та была только сформулирована Эйнштейном; споров вокруг очень и очень много, а сама формулировка — это, кажется, всего-то 79, что ли, год.
    Важно это тем, что отбрасывает все гипотезы о поиске разума непонятно где — начиная от «души» и заканчивая Пенроузом, который ссылался на некоторые квантовые взаимодействия; ну и второй тезис — что разум можно построить абсолютно на чем угодно, примерно как машину Тьюринга — собрать ее можно хоть на консервных банках, важно, чтобы то, как собирается, было по определенным принципам.
    Вообще я бы тут еще сослался на семиотику, треугольник Огдена — Ричардса; все, что было сказано — это то, что все углы треугольника вполне материальны.

  4. Crimewave 11 Март 2013 в 21:38 -

    Весьма увлекательно, Деквен.
    Спасибо.

  5. Deckven 13 Март 2013 в 11:42 -

    Лично меня в статье больше всего поразила судьба тех, кто занимался разработкой AI. Трагические судьбы, которые сильно напоминают то, что случилось с одним из героев «Маятника Фуко», Диоталеви. «Игры разума» могут убивать в самом прямом смысле. Быть может, людям действительно не стоит морочится с големами, а обратить внимание на то, что дал ему Творец и совершенствовать это, а не тратить силы на ваяние чудовищ из глины.

  6. Jurii 13 Март 2013 в 13:34 -

    Агностики и атеисты не оценят.

  7. Wch 13 Март 2013 в 13:44 -

    Длинная цитата:

    Он кивнул.
    — Это естественно. Но тут ничего не поделаешь. Я хочу все-таки объяснить тебе, что происходит. Ты, кажется, вообразил, что я собираюсь с голыми руками идти против танка. Ничего подобного. Мы имеем дело с законом природы. Воевать против закона природы — глупо. А капитулировать перед законом природы — стыдно. В конечном счете — тоже глупо. Законы природы надо изучать, а изучив, использовать. Этим я и собираюсь заняться.
    — Не понимаю, — сказал я.
    — Мы привыкли, что мироздание предельно неантропоморфно. Что нет ничего менее похожего на человека, чем мироздание. И мы не привыкли, чтобы законы природы проявлялись таким странным образом. Природа умеет бить током, сжигать огнем, заваливать камнями, морить чумой. Мироздание проявляет себя полями и силами, полями сил. Мы не привыкли видеть среди орудий природы рыжих карликов и одурманенных красавиц. Когда появляются рыжие карлики, нам сразу начинает казаться, что действуют уже не силы природы, а некий разум, социум, цивилизация. И мы уже готовы усомниться в том, что бог природы коварен, но не злонамерен. И нам уже кажется, что скрытые тайны природы — это сокровища в сейфах банка, оборудованного по последнему слову ворозащитной техники, а не глубоко зарытые тихие клады, как мы думали всегда. И все это только потому, что мы никогда прежде не слыхивали о полях, имеющих своим квантом рыжего карлика в похоронном костюме. А такие поля, оказывается, существуют. Это придется принять и понять. Может быть, в том и причина, что мы, какие мы есть… Мы все искали «достаточно безумную теорию». Мы ее получили… — Он вздохнул и посмотрел на меня. — То, что происходит с нами, похоже на трагедию. Но это ведь не только трагедия, это — открытие. Это возможность взглянуть на мироздание с совершенно новой точки зрения. Постарайся, пожалуйста, понять это.
    До нас этот закон не проявлялся никак. Точнее, мы ничего об этом не слыхали. Хотя, может быть, не случайно Ньютон впал в толкование апокалипсиса, а Архимеда зарубил пьяный солдат… Но это, разумеется, домыслы… Беда в том, что этот закон проявляется единственным образом — через невыносимое давление. Через давление, опасное для психики и даже для самой жизни. Но тут уж, к сожалению, ничего не поделаешь. В конце концов, это не так уж уникально в истории науки. Примерно то же самое было с изучением радиоактивности, грозовых разрядов, с учением о множественности обитаемых миров… Может быть, со временем, мы научимся отводить это давление в безопасные области, а может быть, даже использовать в своих целях… Но сейчас ничего не поделаешь, приходится рисковать — опять же, не в первый и не в последний раз в истории науки. Я хотел бы, чтобы ты это понял: по сути ничего принципиально нового и необычайного в этой ситуации нет.

    А. и Б. Стругацкие, «За миллиард лет до конца света»

  8. Роман 18 Январь 2014 в 11:07 -

    Здравствуйте, Deckven. Хотелось бы узнать, а есть ли продолжение этой статьи. Увлечен сейчас киберпанком и Ваша статья мне особенно интересно. Быть может, продолжение есть, просто я не увидел?

  9. Deckven 19 Январь 2014 в 18:00 -

    @ Роман. Статья не моя, но автора можно попросить продолжить тему ))

  10. Wch 2 Февраль 2014 в 17:12 -

    @Роман
    Дело в том, что я пришел к выводу, что продолжение будет черезчур уж оффтопом. Пришлось бы или мне впихнуть в объем следующей статьи некоторые начала теории множеств, или Deckven’у — основы семиологии; это возможно, но скучно. Потому что то, о чем пойдет речь дальше, иначе объяснить нельзя, можно только сказать типа «на веру» — а это еще глупее. Так что мой совет — это хороший университетский курс линейной алгебры и теории множеств, а потом хороший же учебник по теории AI. Там вы найдете это все и немного больше — если хватит сил разобраться.

Leave A Response