Умеют ли роботы шутить?
12+
  вернуться Время чтения: 8 минут   |   Комментариев: 1
Сохранить

Умеют ли роботы шутить?

Журналист Алла Кечеджан размышляет о роботах, которые раньше умели только пылесосить, а сегодня получают гражданство.

До 1 февраля 2018 года университет Сент-Галлена в Швейцарии St. Gallen, Canton of St. Gallen, Switzerland принимает сочинения студентов на тему: «Как не проиграть в карьерной схватке с роботами?». 

Вы тоже можете участвовать и даже выбрать себе специальность из будущего. Пока нам это будущее кажется отдалённым. Ведь это мы пишем сочинения о роботах, а не они о нас. Но не теряйте бдительности: вы учитесь, и роботы учатся. Раньше они умели только пылесосить, а сейчас получают гражданство.   

image_image
Маск VS Цукерберг
(источник: russia.hifow.com)

Перед вами два непримиримых мнения. Глава SpaceX и Tesla Илон Маск считает роботов «фатальным риском для человеческой цивилизации». Глава Facebook Марк Цукерберг не соглашается: «Роботы всё могут делать лучше нас». 

Кстати, основоположник кибернетики Норберт Винер, выпустивший из бутылки джина под названием искусственный интеллект, в конце жизни разочаровался — не в роботах, а в людях. Но его книгу «Бог и Голем» читают гораздо с меньшим энтузиазмом, чем «Кибернетику». 

Одним словом, пока побеждают сторонники «восстания машин», а у Илона Маска априори больше единомышленников. К тому же сами роботы без конца дают повод насторожиться, хотя закон для них писан ещё в 1942 году. Он состоял из трёх пунктов, которые писатель-фантаст Айзек Азимов сократил в 1986 году до одного, назвав его Нулевым Законом. 

quote_image

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред. 

Айзек Азимов, писатель-фантаст

Права роботов расширяются — в 2017 году первый робот в мире получил гражданство. Но как заставить робота отвечать за свои слова и поступки — настоящая головоломка для учёных. 

Когда я смотрю на дискуссии об искусственном интеллекте, в которых участвуют лучшие учёные мира, их беспомощность перед формулировками сначала обескураживает, а потом озадачивает. 

И правда, дело ученых изобретать, а не толковать. И делая открытие, учёные, по словам профессора МГУ, руководителя робототехнического центра «Сколково» Александра Каплана пользуются отнюдь не алгоритмами, а догадками, озарениями и интуицией.

  • Почему так трудно дать определением ИИ? Потому что мы не знаем, что такое интеллект.

  • Почему так трудно сказать, разовьется ли искусственный интеллект в сознательную личность? Потому что мы не знаем, что такое сознание.

  • Почему робот не может быть предсказуем? Потому что мозг человека непредсказуем.

О чем бы вы сказали в ООН, если бы вам представилась такая возможность?

Так звучало учебное задание известного тележурналиста и бизнес-коуча Нины Зверевой в нашем совместном проекте «Гений общения». Я записала видео об угрозе искусственного интеллекта. Остальные участники проекта опасались голода и смертей, ядерной войны и т. д. Моё видео сочли интеллектуальной блажью, оторванной от реальности. А теперь задумаемся на минуту. Где именно шел этот проект? По форме это была группа на Фейсбуке с 500 участниками. Фейсбук – платформа, основатель которой считает, что роботы могут делать всё лучше людей. Меня волнует вопрос: насколько мы люди в соцсетях?  

Моя статья на Newtonew «Социальные сети как бунт против реальности» вызвала много откликов. Среди них есть и реплика доктора физико-математических наук, директора Междисциплинарного научного центра J.-V. Poncelet Сергея Нечаева. «Алла, я согласен с тем, что соцсети — это дополненная реальность. Но обрати внимание вот на что: казалось, покемоны — это прочно и навсегда. А оказалось, что прошла мода и их почти забыли. Я считаю, что соцсети — это не более чем "компьютер", который так же прочно вошел в нашу жизнь и является для многих продолжением мозга. Первые признаки киборгизма в интеллектуальном пространстве». 

Заходя в социальную сеть, вы перестаёте быть человеком, но роботом не становитесь, обретая третье агрегатное состояние, антропоморфно-машинное. Вероятно, мы не заметили переход в новую цивилизацию и в новое состояние – почти биороботов. Вектор задан. В 2016 году Facebook открыл отдел для создания виртуальной реальности в соцсетях. Где это будет и с кем, если «реальный вы» остаётесь на диване?      

Все мы в той или иной степени пишем техзадание к будущему.

 

От слов до смысла – целая эволюция. Подозреваю, что среди нас полно киборгов. Мы просто не замечаем, что оказываемся на месте робота, к примеру, при обучении иностранного языка. Допустим, двухлетний сын слышит от матери и повторяет: אני אוהבת אותך. Для наглядности я привожу пример неевропейского языка. Поначалу это набор бессмысленных звуков немногим лучше «словесной окрошки» после инсульта. Механизм естественного усвоения родного языка в раннем возрасте до конца не изучен, хотя всё чаще слышны разговоры о языковом гене FOXP2. Может быть, отгадка в том, что ребёнок сначала чувствует, что мама его любит. 

София шутит, угрожая человечеству уничтожением?

Осваивая за две недели новый язык, робот София пока не может конкурировать даже с полуторагодовалым ребенком. Так что понимает робот, если не смыслы? Выбор между «да» или «нет» в его двоичной системе алгоритмов напоминает разве что дрессировку животных. При обучении ИИ ему каждый раз дают «конфетку» для подкрепления знаний. О! Угадал, опять угадал, значит, произнесу (сделаю) в следующий раз тоже самое. Опустим размышления о морали, если ребёнка, животное или робота учил негодяй. 

Но где критерии? Уже сейчас не всегда получается отличить робота от человека. Ученые полагают, что тест Тьюринга не пройдёт половина подростков. Просто слова у них не сходятся со смыслами. 

Робот и творчество — вещи совместные! Вам кажется, что творческие профессии незаменимы? Это немного наивно. Роботы уже сейчас рисуют лучше людей, и уже сейчас делают непредсказуемые ходы. 

Многие полагают, что искусственный интеллект по имени Альфа Го выиграл у гроссмейстера Ли Седоля за счёт скорости и памяти. Но он взял другим: Альфа Го не подсмотрел ход в Интернете, такой комбинации ходов в истории древней китайской игры ещё никогда не было. 

Всегда закрадывается вопрос: может, это потому что интернет для нас пока — внешний носитель, и память на уровне big data и скорость обработки информации в 2 миллиарда операций в секунду нам недоступна? Я не хочу обидеть искусственный интеллект, я даже готова поручить писать ему эту статью. Только что я должна в него заложить? 

По-моему, можно потратить всю жизнь на техзадание. Кстати, эта серия статей всё больше мне напоминает техзадание к будущему. Глава Hanson Robotics, создавший Софию, уверен, что «в будущем роботы будут неотличимы от людей. Но я бы хотел, чтобы роботы всегда выглядели немного как роботы. Надеюсь, через 20 лет человекоподобные роботы будут работать на нас, играть с нами, учить нас. Они смогут быть нашими настоящими друзьями». 

сгорит ли робот от стыда?

Пока остается открытым вопрос, как сделать роботов человекоподобными не по форме, а по содержанию. 

Британский учёный Стивен Хоккинг и сто других крупных учёных, философов и экспертов IT-отрасли разработали 23 правила ИИ на конференции Beneficial AI 2017. 

Но, при всём уважении к выдающимся умам, правилами здесь не обойтись. Нужен какой-то весомый предохранитель, встроенный в саму машину. Как «зашить» эмоции и мораль в наших будущих друзей? Самая передовая мысль лежит в соединении несоединимого. 

Представьте, что робот не может обидеть ребенка или его невозможно перепрограммировать на убийство людей, потому что ему стыдно это сделать. Сказки? Не совсем. Если человек может сгореть от стыда, то и робот, вероятно может сгореть от стыда, конечно, если в него этот стыд заложить. 

Как? Учёные полагают, что химико-биологические предохранители следует отделить от математических. Таким образом, у робота появится свободная воля в рамках: делай что хочешь, но из списка позволенного. 

Конечно, мне хотелось бы услышать мнение нейробиологов, биологов, химиков и физиков, а не только программистов, которые, скорее всего, посмеются над подобной идеей.

Но мне кажется, что вся философия ИИ сосредоточена в одном вопросе: Хочет ли София уничтожить человечество или она просто шутит?     
Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.

статьи по теме

Про космос. Роботы и биоинженерные люди

Социальные роботы: высокие технологии против одиночества

Люди и роботы: о чём стоит задуматься уже сегодня