Мы не можем не относиться к ИИ как к человеку. Но стоит ли?

В бежевой футболке-поло, с коричневым кожаным ремнём и круглым боло-галстуком аспирант MIT Уил Нортон отчасти похож на смотрителя национального парка, ведущего нашу экскурсионную группу через тропические джунгли. Но на самом деле мы не на сафари — мы в Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL). Однако то, что мы сейчас увидим, ещё более экзотично, чем гепард или ягуар: пара гуманоидных роботов Unitree, каждый стоимостью около 50 000 долларов.

(«Они скажут вам, что те стоят 16 000 долларов, — говорит Нортон. — Это ложь».)

Обычно мы видим этих роботов только на YouTube — когда они исполняют синхронную программу по боевым искусствам или танцуют в шоу «Америка ищет таланты». Здесь к ним можно подойти. Хотя я знаю, что у робота нет сознания, мне хочется с ним подружиться.

Получив разрешение Нортона, я подхожу к роботу по прозвищу Гейб. На мгновение я не понимаю, как взаимодействовать с существом, у которого вместо мозга установлен лидарный сенсор, но по умолчанию обращаюсь с ним как с человеком.

«Здравствуйте, сэр, приятно с вами познакомиться», — говорю я, пожимая его руку в перчатке — ловкую и подвижную.

Позже я снова думаю об этом взаимодействии — о своём инстинктивном стремлении быть дружелюбным с роботом, — когда прихожу на презентацию книги доктора Шерри Тёркл «Искусственная близость» (Artificial Intimacy) на фестивале MIT Future Fest.

Тёркл, поступившая на работу в MIT в 1976 году, возможно, дольше всех занимается изучением отношений между людьми и компьютерами, прослеживая психологическое воздействие технологий на человека — от первых домашних компьютеров до ChatGPT.

«Когда нас вовлекает даже самое примитивное взаимодействие с артефактом, созданным для установления отношений, мы верим, что он заботится о нас, — пишет Тёркл в книге. — И мы запрограммированы заботиться о нём в ответ».

Я не одинок в своей склонности очеловечивать роботов и большие языковые модели (LLM): как отмечает Тёркл, это, по-видимому, заложено в нашей природе. Одно исследование показало, что около 70% людей вежливы при взаимодействии с ИИ, а другое продемонстрировало, что пользователи чаще говорят чат-ботам «пожалуйста» или «спасибо», когда разговор выходит за рамки первого запроса и ответа.

«Люди склонны относить это к правильному или неправильному применению, но я не думаю, что здесь есть чёткая граница, — рассказал TechCrunch доктор Пат Патаранутопорн, коллега Тёркл, основавший исследовательскую группу по психологии киборгов в медиалаборатории MIT. — Вопрос в том, кем мы становимся, когда разговариваем с [ИИ]?»

В моей вежливости по отношению к роботу Гейбу нет никаких материальных последствий, но по мере того, как LLM проникают во всё — от поисковых запросов Google до взаимодействия со службой поддержки, — люди всё чаще общаются с этими кажущимися разумными чат-ботами. Мы как никогда уязвимы перед обратной стороной этой склонности: некоторые люди могут приписывать чувствам чат-ботов — запрограммированных никогда не провоцировать конфликт — настолько большую значимость, что в итоге начинают предпочитать их другим людям.

«Можно сравнить это с фантазией и художественным вымыслом. Мы ходим в кино, хотя знаем, что история полностью выдумана, но хотим испытать определённое измерение человеческого опыта, которого, возможно, не может дать наша реальность, — говорит Патаранутопорн. — Как воспользоваться этой способностью переживать другие измерения человеческого опыта и при этом не потерять себя в фантазии, из которой уже невозможно вернуться в реальность?»

Патаранутопорн называет себя «критическим оптимистом» и изучает потенциал ИИ в содействии человеческому процветанию. Но он прекрасно осознаёт, насколько опасной эта технология может стать в крайних случаях. Он даже выступал экспертом по иску о смерти по вине ответчика в связи с самоубийством 14-летнего Сьюэлла Сетцера III, чья мать подала в суд на платформу чат-ботов Character.AI, утверждая, что чат-бот, созданный по образу персонажа из «Игры престолов», побуждал её сына покончить с собой.

«Это может создать ситуацию, в которой люди перестают ощущать, что способны сами формировать своё будущее: например, когда вы говорите, что ИИ всех заменит, люди спрашивают: что же нам делать? А эти компании на самом деле не реагируют ни этично, ни ответственно, — говорит Патаранутопорн. — Как сохранить воображение и при этом нести ответственность за последствия этого воображения?»

Хотя в книге Тёркл исследует риск обращения к ИИ за эмоциональной поддержкой вместо других людей, она не считает взаимодействие ИИ и человека однозначно вредным.

Она вспоминает один проект, которым консультировала: студент создал ИИ-бота, помогавшего людям готовиться к собеседованиям.

«Моя главная метафора такова: чат-бот, не выходи за пределы своей полосы! Подготовка к собеседованию? Это твоя полоса. С этим я справлюсь … Чат-бот, который говорит трёхлетнему ребёнку: “Я твой родитель, ты можешь разговаривать со мной, а не со своими родителями”, — это уже выход за пределы полосы», — сказала Тёркл на мероприятии.

Но когда эта технология даже слегка выходит за пределы своей полосы, мы становимся уязвимыми перед её способностью постепенно подтачивать наш скептицизм и заставлять нас доверять ей. Всё может начаться с такой простой вещи, как рукопожатие.