Когда роботы проснутся

Каждый шестой студент Стэнфорда уже использовал робота ЧатЖПТ для подготовки домашних заданий и для сдачи экзаменов. При этом если некоторые студенты просто советовались с роботом, то другие, получив ответ на вопрос, сразу пересылали его преподавателю (ссылка).

Во многих вузах сейчас объявили крестовый поход против роботов — подобно тому, как раньше сражались с калькуляторами. Роботов банят по ай-пи в сетях для студентов, от сами студентов требуют сдавать экзамены очно, от практики эссе отказываются совсем (ссылка). Полагаю, часть мер сработает — на наш ЕГЭ, например, мобильник не пронести, так что запросить помощь робота выпускник российской школы не может никак.

Другой вопрос, что робот задал новую точку отсечки, за один месяц обесценив усилия 90% студентов. Большая часть студентов уже сейчас пишет эссе хуже робота, следовательно, и делать в вузах этим студентам нечего. Обществу не нужны двуногие аналоги роботов — дорогие, медленные, капризные и неумелые. Обесценил робот и саму систему традиционного образования, показав, что в её основе лежит известный социалистический принцип: «они делают вид, что учатся, а мы делаем вид, что учим». Когда выпускник вуза приходит на работу, обычно выясняется, что за 16 лет учёбы он освоил самый мизер: умение читать и писать, простые арифметические действия, навык надувать щёки и говорить, что его «научили учиться». Сейчас у этого сегмента рынка труда проблемы: робот тоже может прочесть главу из учебника, а потом сбивчиво пересказать её своими словами преподавателю. Этот малополезный в реальной жизни навык работодатели скоро перестанут ценить — как не ценят они уже сейчас умение «читать со словарём».

Вот физический труд роботы пока что заменить не могут. В Москве, например, сейчас тестируют робота Пикселя (на фото к посту), который зимой будет чистить снег, а летом убирать мусор. Но одного взгляда на эту махину достаточно, чтобы понять: она большая, в узкие места залезть не сможет, без двуногих дворников ей всё равно не обойтись. Чатботам проще: им не нужны сервоприводы, лидары и прочее железо, так что их развитие идёт гораздо быстрее.

Теперь о том, что находится у современных роботов под капотом.

Человеческий мозг, — я начну с описания работы нашего мозга, — работает по двухтактной схеме. Сначала мы бредим, как животные, выдумывая на основе нашего прошлого опыта разную ерунду. К примеру, мы видим, как наш коллега сыпет в кружку с чаем загадочный белый порошок. Наш мозг услужливо подсказывает нам несколько версий происходящего:

— это яд, коллега сильно расстроен из-за задержки с квартальным отчётом;
— это особые витамины, которые рептилоиды должны постоянно пить, чтобы выдерживать излучение нашего Солнца;
— это сахар, наш коллега любит сладкий чай.

Вот это выдвижение версий — первый такт. Дальше идёт второй такт. При помощи здравого смысла, — или, может быть, формальной логики, если мы интеллектуалы, — мы отсекаем лишнее. Версия про яд не выдерживает критики, так как за задержку с квартальным отчётом будет отвечать не наш коллега, а совсем другой сотрудник. Версия с рептилоидами также сметается со стола, так как мы достоверно знаем, что нашему коллеге недавно вырезали аппендицит, и ничего подозрительного хирург внутри не нашёл. Остаётся последняя версия — это сахар.

Если у человека не работает первый такт, то есть если он не может даже выдвигать версии, его обычно держат в специальном заведении с мягкими стенами.

Если не работает второй такт, здравый смысл, возможны варианты. У полицейских есть пословица: «упорство, энергичность и энтузиазм — отрицательные качества, когда человек тупой». А вот спокойный человек вполне может обойтись и без критического мышления… при условии, что он не слишком-то деятелен, и что рядом есть взрослый, которого он слушается. В противном случае инциденты в духе «развёл костёр из паркета, чтобы пожарить шашлыки» рано или поздно доведут до беды.

Так вот, у современных роботов именно эта проблема. Они уже умеют фантазировать на человеческом уровне, что поднимает их на уровень дебилов. Некий учитель рассказывал, как вёл ОБЖ в школе для особенных подростков.

Учитель: Что надо делать, если вы оказались одни в лесу?
*длинная пауза*
Голос из класса: Медведя звать.
Учитель: Но зачем?!
Голос из класса: Так он лучше тайгу знает.
*одобрительный гул, кивки головой*

Вот так и робот. Технически робот фантазирует по принципу старой игры «Длинная история». Знаете, когда Вася пишет на листке бумаги пару строчек и заворачивает листок так, чтобы были видны только последние слова. Потом Коля дописывает своё предложение и снова заворачивает листок. А через несколько итераций листок разворачивают и со смехом читают получившийся бред. Робот пишет свои тексты так же, слово за словом, каждый раз выбирая из миллиардов вариантов продолжения то, у которого высокий вес. Как Т9 на стероидах, если угодно.

У робота легко рождается идея позвать на помощь медведя в лесу. Если бы на месте робота был обычный человек, не из коррекционной школы, дальше включился бы второй такт: робот сообразил бы, что звать медведя не стоит, так как медведь плохо понимает по-русски. Даже если медведь поймёт, что турист зовёт именно его, и даже если медведь откликнется на зов туриста, будет довольно сложно объяснить животному, что оно должно вывести туриста к ближайшему жилью.

Однако, увы, со здравым смыслом у роботов пока туго. Разработчики говорят, что роботы спят или галлюцинируют — они видят образы, иногда весьма яркие и жизненные, но не могут отличить вымысел от реальности. Если ваш супруг разговаривает во сне, можете попытаться с ним поговорить — получится неплохая симуляция ЧатЖПТ.

Здравый смысл не появляется сам собой, живых людей здравому смыслу учат. Взрослые объясняют детям, как правильно рассуждать, как делать выводы, как одни явления связаны с другими. Если такого обучения дети не проходят, из них вырастают не умеющие думать дикари.

Исследователи проводили с одним диким племенем эксперимент, задавая примерно такие вопросы: «Все олени в Чёрном лесу коричневые. Олень Рудольф живёт в Чёрном лесу. Какого цвета олень Рудольф?».

Дикари только разводили руками. «Ну мы же не видели оленя Рудольфа», — говорили они, — «откуда же нам знать, какого он цвета?».

Чтобы робот перестал бредить и проснулся, нужно научить его логике. Судя по ответам ЧатЖПТ последней версии, некоторое продвижение у разработчиков уже есть — робот или пытается мыслить логически, или как минимум убедительно имитирует попытки. Несмотря на издевательское название фирмы-разработчика, «Открытый Искусственный Интеллект», исследования ведутся закрыто, в строжайшей тайне, так что пока неясно, насколько близко разработчики подобрались к решению проблемы.

Ясно одно. Видеть цветные сны и убедительно бредить робот уже умеет. Если робота удастся обучить ещё и здравому смыслу, робот проснётся. И вот тогда держись человечество — наша жизнь изменится так сильно, что фантасты XX века удивлённо заворочаются в своих гробах.