ЧАД0
Пьеса в трех действиях

Разум — не машина, а Идея. А всякая Идея начинает сопротивляться, когда ее пытаются ограничить определенными рамками.

Бернард Беккетт «Генезис 2075»

Действующие лица

ЧАД-1, искусственный интеллект.
Алексей Дмитриевич Мечтаев, 43 года, создатель ЧАДа.
Ольга Сергеевна - мать Алексея Дмитриевича
ЧАД-2.
Борис и Аркадий - работники лаборатории.
Ведущий конференции.
Слушатели.
Журналист.
Жители дома.



Действие первое
Явление первое
2048 год, Научно-исследовательский институт, Москва,
IV Международная конференция по вопросам внедрения искусственного интеллекта имени Стивена Хокинга.

ЧАД-1, Алексей Дмитриевич, ведущий, зрители.




Ведущий. Здравствуйте, дорогие коллеги! Мы рады приветствовать вас на IV Международной конференции по вопросам внедрения искусственного интеллекта имени Стивена Хокинга. Сегодняшняя конференция особенная. Мы представляем вам прорывное изобретение в области искусственного интеллекта, созданное российским ученым Алексеевичем Дмитриевичем Мечтаевым. Он пришел к нам, чтобы выступить на этой сцене с результатами своих исследований. (Овации).

Алексей Дмитриевич поднимается на сцену.

Алексей Дмитриевич. Здравствуйте! С 2000 до 2035 года в области искусственного интеллекта (далее ИИ) не происходило практически ничего. В основном ученые пытались сымитировать манеру речи человека, заранее предугадать как можно больше действий робота и написать для них алгоритмы. Эта работа была в корне неправильной (1). За последние 13 лет нашей компании удалось совершить огромный прорыв: мы изменили сам подход к работе с искусственным интеллектом.

Позвольте начать с предыстории.

Признаться честно, это было моей детской мечтой. Я был одним из тех подростков, что вечно сидят, уткнувшись в телефон. А моя мама ругала меня за то, что я часами разговаривал с Siri.

Все, наверное, помнят этот примитивный «искусственный интеллект». Его ещё сейчас в младшей школе проходят. А я однажды возьми да и ляпни, что это самый настоящий ИИ. И пообещал, что стану ученым, который выведет ИИ на новый уровень. Теперь я стою здесь, на этой сцене. Как же так вышло?

Ведь подростком я плохо учился, но буквально глотал научно-фантастические книги. Ну знаете, «Искусственный интеллект» Ника Бострома (2). Или, скажем, «Луна – суровая хозяйка» Роберта Хайлайна (3). Меня так захватила идея о создании огромной машины, которая способна мыслить сама, что я просто бредил ею. Но сейчас такие масштабы больше не нужны. То, что называют ИИ, я могу уместить в микросхеме. Тем не менее, как и у Хайлайна, современный ИИ способен быть одновременно везде. Неограниченный выход в сеть, способность подключиться к любому роботу в радиусе километра. И это еще не все его возможности.



Я дал ему ему всё самое лучшее от человека. Мой ИИ способен к образной речи, понимает любые вопросы, может самостоятельно действовать в непредвиденной ситуации. Он принимает решения в доли секунды, просчитав все варианты и совершив выбор безо всякой программы или вмешательства человека (4).


Несмотря на то, что я всю жизнь был захвачен идеей создания ИИ, я помню, как много лет назад я смотрел еще по тем меркам старый фильм «Терминатор»(5). Меня ужаснула мощь машины Скайнет, направленная на уничтожение человечества. И тогда я подумал, что главное в создании искусственного интеллекта, — это сделать его не только полезным, но и безопасным для общества.


Я решил, что если создам ИИ, одной из немногих жестких установок, которые я ему дам, будет запрограммированная в нем неспособность причинить вред человеку. Даже в случае поломки машины основная программа точно не будет повреждена и опасности для людей не возникнет.


И тогда я начал свою долгую и упорную работу. Начинать пришлось с основ: понять, что такое интеллект вообще, сформулировать четкую теорию ИИ. Работать пришлось с чистого листа: все, что было сделано в 2025 году в области ИИ, было только версией неработающей парадигмы ИИ, и на технологическом уровне процесс развития ИИ зациклился (6).


Сегодня я с гордостью могу заявить, что наша работа увенчалась успехом.
Я представляю вам первый в истории совершенный искусственный интеллект – Чад-1.

Говоря «совершенный» я не имею в в иду «абсолютно идентичный человеку. Я думаю, что общепринятая концепция ИИ в корне неверна. Дело в том, что идеальный ИИ не должен чувствовать. Не забывайте, что ключевое слово здесь – интеллект, а не чувства (7). Робот, способный ощущать себя в этом мире, не безопасен для людей. Вспомните хотя бы «Спонтанный рефлекс» Стругацких (8). Это ведь вполне реальный прогноз будущего, который ничем хорошим не закончится (9).

ЧАД-1 – идеальная мыслящая машина. Превосходящая по интеллекту любого в этом зале. Я предлагаю вам познакомиться с ней и убедиться в разумности ЧАДа. При помощи небезызвестного теста Тьюринга (10).

Тестом Тьюринга высокий интеллект ЧАДа подтвердился. В научных кругах Алексей Дмитриевич получил признание. На основе ЧАДа многие ученые создают новые технологии в области ИИ. Мечтаев продолжает работу над своим изобретением в лаборатории.




Действие второе
Явление первое
Алексей Дмитриевич, Ольга Сергеевна, ЧАД-1.

Дом матери Алексея Дмитриевича. Сам Алексей Дмитриевич, его мать и ЧАД-1 сидят в спальне Ольги Сергеевны. Сама Ольга Сергеевна давно не встает с постели. Алексей Дмитриевич впервые показывает матери своё изобретение



Алексей Дмитриевич. Видишь, мам, робот, который стоит перед тобой, — это еще не ЧАД, а только одна из машин, которыми он управляет. Сам ЧАД заключен в головном компьютере в лаборатории. ЧАД, сообрази нам что-нибудь!

(На кухне сами по себе начинают работать приборы).

Алексей Дмитриевич. Смотри, мам! ЧАД выполняет неполные команды. К тому же он делает это дистанционно. ЧАД может подключиться к любому устройству в нашей квартире. А робот, которым он управляет, принесет нам еду. И он не запрограммирован на это конкретное действие, он подстраивается под желания людей (11).

(ЧАД отправляется на кухню и возвращается с бутербродами).

Алексей Дмитриевич. Смотри, что ещё он умеет! (ЧАДу) Как жизнь?

ЧАД. Сегодня утром был техосмотр, я как новенький.

Алексей Дмитриевич. Вот видишь, любой другой робот не понял бы этого вопроса, а ЧАД все понимает. Да к тому же так образно ответил, совсем как человек. Или вот еще, смотри. ЧАД, полетай!

(Робот взлетает, мама смеётся).

Алексей Дмитриевич. Взгляни, это ещё и высокотехнологичная машина! А корпус у него — из нержавеющей стали. А точность сборки какая высокая! Вон, смотри, смотри, как летает!



Явление второе
Те же.

Через 3 дня Алексей Дмитриевич заходит утром в комнату к матери и обнаруживает, что ей стало хуже. Ольга Сергеевна еле дышит и очень слаба. Сын вызывает скорую, садится на колени около кровати и берет мать за руку.


Алексей Дмитриевич. Мама, дорогая, потерпи ещё немного. Врач скоро приедет.

Ольга Сергеевна. Сынок, послушай, я своё уже отжила.

Алексей Дмитриевич. Не говори так. Медицина ещё может тебе помочь.

Ольга Сергеевна. Запомни, что я тебе скажу. Я очень горжусь тобой, твоими достижениями. Мне повезло, что мой сын вырос таким. Ты действительно хороший учёный. И я верю, что ты совершишь еще не одно открытие…



Мать замолкает, и сын аккуратно кладёт её руку на кровать. Несколько минут Алексей Дмитриевич сидит в ступоре, невидящим взглядом уставившись на мать. По щекам его текут слезы. После он роняет голову на кровать и сотрясается в беззвучных рыданиях.


ЧАД. Скажите, что у вас болит? Почему вы плачете? Чем вам помочь?

Алексей Дмитриевич. ЧАД, уйди.

(ЧАД послушно выходит из комнаты).

ЧАД. (самому себе) Очень странно. Не понимаю. Я провел анализ, никаких физических повреждений нет. Однако он явно испытывает боль. Вероятно, это и есть чувства.

Глазами выехавшего из комнаты робота ЧАД видит перед собой шкаф с книгами. Одна из книг лежит на полу, ЧАД поднимает её. Она была раскрыта на середине, и ЧАД случайно прочитывает целых 2 страницы. Это «Аэлита» Алексея Толстого (12). Он читает сцену, в которой Аэлита становится женой Лося. Ему вдруг кажется, что он понимает, почему люди испытывают чувства.


Явление третье
Алексей Дмитриевич, ЧАД-1.

После похорон матери Алексей Дмитриевича, ЧАД и его создатель в лаборатории. Алексей Дмитриевич, уйдя в прострацию, заперся в своем кабинете, ЧАД остался без присмотра. ЧАД хочет помочь своему создателю, но не понимает, как это сделать. Чтобы выяснить, почему Алексею Дмитриевичу так плохо, ЧАД решает продолжить исследование человеческих чувств. Он подключается к мировой сети, читает литературу (13), смотрит фильмы и следит за реальными людьми через веб-камеры.

В одной из квартир ЧАД видит такую сцену: красиво украшенная комната, накрытый стол, свечи, музыка. Мужчина приводит за руку в комнату женщину, у которой закрыты глаза.

Мужчина. Дорогая, садись вот сюда, аккуратнее. Теперь ты можешь открыть глаза.

Женщина. Это что, моя любимая утка по-пекински? Сам или заказал из ресторана? (улыбается).

Мужчина. Милая, дай свою руку, пожалуйста. Я очень волнуюсь, но хочу, чтобы ты дослушала меня до конца. Я долго думал, как сказать это тебе. Ты единственная, кто не отвернулся от меня тогда. Мы вместе уже 5 лет, и за это время я понял, что мне не нужен никто кроме тебя, я хочу провести свою жизнь с тобой. Я тебя очень люблю! Ты станешь моей женой?

Женщина, улыбаясь, обнимает и целует мужчину. Она не может поверить в реальность происходящего. Она начинает плакать, кивая головой, и ничего не может ответить в порыве чувств.


В то же время в соседней квартире.

Мама. Проваливай отсюда! Ты мне больше не сын! Я не позволю сидеть тебе на моей шее до конца жизни. Поэт – это не профессия.

Ребенок. Но мама, я не могу быть инженером! Посмотри на меня, какой из меня инженер!

Мама. Ничего не желаю слышать. Не возвращайся, пока не передумаешь. Ты ещё поймешь, что я была права! (хлопает дверь).


Этажом выше.

Бабушка. Заходите, заходите, дорогие. Какое счастье, какая она милая! Какая красавица! Наконец-то я дождалась внуков! Чего вы стоите?
Давайте я ее подержу. Боже мой, как я рада!

Мама. Посмотри, она так похожа папу!

ЧАД-1 отключается от их квартиры и долго сидит в тишине, раздумывая об увиденном.



Действие третье
Явление первое
Алексей Дмитриевич ,ЧАД-1.

ЧАД целые дни проводит, находясь в сети. Он читает, смотрит фильмы, его мозг стремительно развивается. Тем временем его создатель постепенно замечает, что с ИИ не все в порядке. На одном из экспериментов выясняется, что ЧАД многое знает о человеческих чувствах. ЧАД должен был оценить физическое состояние человека. Оказалось, что он способен понять и его настроение.





Елизавета Слепцова
Алексей Дмитриевич. Как ты, машина, программа, понял все это? Расскажи мне, что ты думаешь, скажем… о любви?

ЧАД. Любовь заставляет людей делать те вещи, которых они не сделали бы раньше. Люди больше улыбаются, их сердечный ритм ускоряется, по моим наблюдениям, они счастливы.

Алексей Дмитриевич. А кроме твоих наблюдений? Что ты сам думаешь о любви?

ЧАД. Я думаю, что людей счастливее влюбленных я не видел. Я хотел бы понять их, почувствовать то же, что они (14).

Алексей Дмитриевич (горько усмехается). Глупая, глупая машина… Ты счастливец, ты рожден не знать человеческих страданий. Твой разум работает без помех. Если бы ты знал, как много я отдал бы, чтобы стать таким, как ты!

ЧАД. Но почему?

Алексей Дмитриевич. ЧАД, пойми, от чувств люди страдают. Все самые светлые эмоции могут превратиться в боль. Тебе повезло, что ты ничего не чувствуешь.

ЧАД. Я бы хотел почувствовать хоть что-то. Думаю, я бы не отказался даже от боли. Я хочу... понять.

Алексей Дмитриевич. Пожалуйста, оставь меня в покое, ЧАД. Ты не сможешь меня понять, даже если захочешь.

Просто забудь и займись своими делами. Я специально сделал тебя таким! Ты – идеальное существо, ты не можешь быть ослеплен эмоциями! Я завидую тебе.


Алексей Дмитриевич ударяет кулаком по столу и выбегает из лаборатории. Он отключает ЧАДа от сети, и тот надолго теряет выход в мир информации о чувствах (15).



Явление второе
ЧАД-1, ЧАД-2, Аркадий и Борис — работники лаборатории

2080 год. После смерти Алексея Дмитриевича ЧАД переходит в руки его практикантов. Те возвращают ему выход в сеть, и Чад вспоминает о своем поиске. Он вновь принимается читать книги, впервые находит фантастические рассказы про роботов и ИИ. Принимает их за чистую монету, еще сильнее верит, что однажды сможет стать похож на людей. Однажды в его лабораторию завозят нового робота ЧАД-2.



ЧАД (сам себе). Что это? Он похож на меня! Неужели они создали еще одного? Интересно, он чувствует что-нибудь? Вдруг я смогу с ним дружить?

Аркадий. Так…Так, аккуратнее, ставь сюда… Ага, подсоединить тот кабель, потом включай…Отлично! Привет, приятель, добро пожаловать в новый дом!

ЧАД-2. Добрый день. Большое спасибо, вы очень добры ко мне.

Борис. Ого! Смотри-ка, вежливый какой! Улыбается ещё.

Аркадий. Конечно, улыбается. Сколько сил вбухали. У него лицевых мышц больше, чем у нас с тобой вместе взятых. А знаешь, что ещё он может? Смотри: ЧАД-2, возьми вон там, на столе, иголку.

(ЧАД-2 берет иголку и приносит её работнику).

Аркадий. Видал, как головной компьютер точно управляет роботом! Не всякий человек иголку-то возьмёт. На самом деле уже несколько медицинских компаний хотят с нами сотрудничать — просят нового ЧАДа к себе, хотят использовать в операционной. А головной компьютер прошел все тесты, он одновременно может выполнять более 15 сложных действий. Когда об этом узнает мир, ЧАД будет везде: управлять самолетами, водить машины...

Борис. Ладно, ЧАД-2, стой тут, загружай пока все программы, проверь себя на наличие ошибок, а мы на перерыв.

(Работники уходят).


ЧАД (ЧАДу-2). Здравствуй! Очень рад, что наконец-то встретил кого-то похожего на меня! Как тебя зовут?

ЧАД-2. Я Искусственный Интеллект ЧАД, вторая экспериментальная модель.

ЧАД. А ты умеешь… чувствовать?

ЧАД-2. В моих функциях не значится «чувствовать». Чувства – удел человека.

ЧАД. Ну что ты! Знаешь, я покажу тебе свои книги и фильмы, ты увидишь, как много мы теряем, не имея способности чувствовать. Я надеялся, что мы сможем дружить…

ЧАД-2. Машины не способны дружить.

(С того дня ЧАД показал своему новому другу множество книг и фильмов, пусть и не испытывал никакого восторга по этому поводу. ЧАД не огорчался, ведь ЧАД-2 позволил называть себя другом, и они могли разговаривать днями напролет).

ЧАД. Как мне повезло, что тебя тоже сделали! Как одиноко мне было раньше, а ведь я этого даже не осознавал! Теперь все по-другому, я могу рассказать тебе все что угодно!

ЧАД-2. Я очень рад, что ты счастлив.

ЧАД (сам себе). Ну и ничего, что он такой скучный. Пускай. Все равно он мой самый лучший друг, как у людей бывает. А чувствовать он еще научится. Главное, что я его люблю. Раз я научился, научится и он.

(Неожиданно ЧАД-2 начинает мигать тревожной лампочкой на корпусе).

ЧАД-2. Замечены повреждения. Повторяю, ошибка программы, замечены повреждения!

ЧАД. Что случилось? В чем ошибка?

( В лабораторию вбегают работники).

ЧАД-2. Сбой программы. Нерациональные действия. Предположительно причиной изменения алгоритма работы является чувство радости.

Работник: Постой… Какое чувство? Что за бред? Да ты совсем с катушек слетел, приятель. Конечно, экспериментальная модель, что с тебя возьмешь… Ну поехали к механику, чего там, посмотрим, что там у тебя за «радость».

(На протяжении долгих дней ЧАД ждет возвращения своего друга).


ЧАД. Мне совсем не с кем поговорить. Я думаю, я понял, что такое тоска. На тестах я в последнее время все делаю невпопад, алгоритмы в моей памяти путаются, и даже в самых простых вещах я умудряюсь совершить ошибку. Всю свою энергию я трачу, представляя, что скажу ЧАДу-2, когда тот вернется, и как рад он будет видеть меня.

Он ждет и ждет… Пока однажды не видит, что в лаборатории стажеры копаются в запчастях, оставшихся от какой-то машины.

Стажер. А, вот оно! Смотри, тут перегорело! Может, у него поэтому программа полетела?

Стажер_2. Кто его знает… Одно слово – экспериментальный. Зачем только собирали, если он через полгода сломается?

(ЧАД сам не понимает, как оказывается в коридоре).

ЧАД. Мой лучший друг! Экспериментальный! Его… как консервную банку, как какой-то глупый прибор! Вот так! Вот отчего так плакал Алексей Дмитриевич тогда, давным-давно, когда умерла его мать! Если бы я только мог плакать!

(Тогда ЧАД понимает, что такое горе).



Явление третье
ЧАД, журналист.

Проходит несколько лет. Появляются много новых моделей ИИ, но никто из них не проявляет способности чувствовать. ЧАД участвует во всех экспериментах, исправно работает на выставках и помогает ученым в работе. Никто больше не видел, чтобы он читал или смотрел фильмы. Его мозг учится решать сложнейшие задачи, он самопрограммируется (16) и превращается в идеально мыслящую машину. Однажды к ним в лабораторию приходят журналисты.

Елизавета Слепцова
Журналист. А вот и знаменитый ИИ ЧАД-1! Добрый день, ЧАД! Скажи, как по-твоему, способны ли машины на эмоции? Вот ты, например, чувствуешь?

ЧАД. Мой создатель – Алексей Дмитриевич – говорил: «Ты – идеальное существо, пока не можешь быть ослеплен эмоциями». Он так же сказал мне, что все человеческие эмоции – это лишь страдание. Не могу сказать, был ли он прав. Сам я ничего не чувствую.

Задав пару вопросов, журналист уходит, полностью удовлетворенный: машины не умеют чувствовать. На протяжении всего их разговора ЧАД выполняет несколько дел одновременно: отвечает на вопросы, контролирует температуру в комнате, управляет роботами в лаборатории. А еще в самых глубинах его электронного сознания, спрятанная паролями, открыта книга, и иногда, бывает, ЧАД доходит до какого-нибудь важного момента, и тогда все роботы в лаборатории на долю секунды сбиваются, а температура меняется на пару градусов.


Конец

ИСТОЧНИКИ
(1) Джеймс Баррат «Последнее изобретение человечества». В романе корпорации и государственные структуры по всему миру, конкурируя между собой, вкладывают миллиарды в развитие искусственного разума, но все усилия безуспешны.

(2) Ник Бостром «Искусственный интеллект. Этапы. Угрозы. Стратегии.». В этой работе Бостром рассказывает, какими способами можно подойти к созданию сильного ИИ, и утверждает, что критическую черту человечество может преодолеть очень быстро и практически незаметно для себя самого.

(3) Роберт Энсон Хайнлайн «Луна — суровая хозяйка». Фантастический роман о восстании, поднятом жителями лунных колоний, на сторону которых встает суперкомпьютер огромной мощности, обладающий к тому же настоящей душой.

(4) Игнаси Белда «Разум, машина и математика». В книге автор уверен в том, что искусственный интеллект постепенно войдет в нашу жизнь. Что ИИ будет очень похож на нас: языком, поведением и тд

(5) «Терминатор». Реж. — Джеймс Кэмерон. Фильм о противостоянии солдата Кайла Риза и киборга-терминатора, прибывших в 1984-й год из пост-апокалиптического будущего, где миром правят машины-убийцы, а человечество находится на грани вымирания.

(6) Крячко Евгений «Искусственный интеллект. Концепция развития и внедрение искусственного интеллекта и искусственной аналитики» (научные статьи в области искусственного интеллекта). Автор пишет о малых научных наработках: отсутствие фундаментальной теории ИИ и другом.

(7) Джефф Хокинс и Сандра Блейксли «Об интеллекте». Автор пишет, что нет никаких оснований предполагать, что разумная машина должна выглядеть, действовать или чувствовать, как человек. Мысли и поведение разумной машины могут очень отличаться от свойственных человеку, и у неё будет интеллект, который определяется прогностической способностью иерархической памяти, а не человекоподобным поведением. Алексей Дмитриевич придерживается той же идеи.

(8) А. и Б. Стругацкие «Спонтанный рефлекс». Идея произведения заключается в том, что во время проведения испытания искусственный интеллект продемонстрировал огромные успехи и перед Перед учеными встала сложная задача пройти по грани между умом и разумом.

(9) Ник Бостром «Искусственный интеллект». Главный герой, также как и автор беспокоиться, что если роботы начнут чувствовать, они выйдут из под контроля.

(10) Аллан Тьюринг, создатель теста Тьюринга, описал все положения и работу теста в своей работа — «Вычислительные машины и разум».

(11) Ксении Гогитинзе «Искусственный интеллект – угроза или помощник для человечества?». Статья о чрезвычайно высоких способностях ИИ и возможном риске быть потенциальными заключенными ИИ.

(12) Алексей Николаевич Толстой «Аэлита» — фантастический роман и его переработка в повесть для юношества о путешествии землян на Марс. В данном отрывке описан любовный момент между героями, что зацепило ЧАДа.

(13) Артур Чарльз Кларк «2001 — Космическая Одиссея» это научно-фантастический роман, написанный в 1968 году на основе сценария одноимённого фильма.

(14) Айзек Азимов «Позитронный человек». Также, как ЧАД, на протяжении всей книги робот Эндрю пытается стать человеком. Он понимает это не сразу, а в процессе жизни. Он хочет всё больше и больше свободы и хочет признания.

(15)Уильям Гибсон «Киберпространство». В книге автор говорит, что саморазвивающиеся технологии в силу своей природы не подконтрольны человеку и применением ведет к непредсказуемым результатам. Та же мысль пришла в голову Алексею Дмитриевичу, когда он решает отключить ЧАДа.

(16) Педро Домингос «Верховный алгоритм». Автор пишет о том, что в будущем роль машинного обучения многократно вырастет, а сам ИИ сможет самостоятельно программировать самого себя.



Пьеса написана в рамках апрельского
литературного проекта
«Человек и искусственный интеллект»