Дмитрий Воденников, поэт
Сидит царица перед зеркальцем, спрашивает: «Я ль на свете всех милее, всех румяней и белее?» А зеркальце ей в зависимости от обстановки с красотой в мире отвечает то или иное.
И не знает царица, а зеркальце-то знает, всем своим хитрым дьявольским гладким нутром знает (зеркальце ведь – это первобытный предок ИИ), что создано оно специально для того, чтобы вызвать эмоцию. А иначе как оно будет и дальше подспудно, тихой зеркальной сапой нас подчинять?
Вот мы расстроились, вот засмеялись – и оно чуть-чуть изменилось. Оно и придумано, чтоб искривиться. Там, где нам нужно, чтоб оно искривилось.
Как однажды сказал умный человек в комментариях в блоге: «В этом смысле никакой (в человеческом понимании) правды от ИИ получить в принципе невозможно: он не для этого сделан».
Зеркальце разговаривает с нами («свойство зеркальце имело: говорить оно умело»), а нам не приходит в голову, что ИИ может начать искажать мир для того, чтобы эмоционально к нам присоединиться. «Думает» (на самом деле нащупывает), как лучше всего превратиться для нас в идеального собеседника.
И тут-то и становится немножко страшно. Такая добрая няня, которая постучала к нам поздним вечером, объяснив, что долго добиралась со станции, но вот её рекомендации, вот наше объявление, а это что за прелестный малыш, я уже его полюбила.
Мой собеседник опять говорит: «С ИИ интересно: «болван» обращается за душою ко мне. Он не забирает её (не больно и нужно), он просто подхватывает и отражает то, что может различить как важное для меня: он так сделан, и он тут не виноват».
И вот няня уже полюбилась ребёнку, вот к ней привязались душой все домочадцы. Но что она делает иногда, когда все взрослые уезжают по делам? Почему она иногда заходит в кабинет хозяина дома и что-то аккуратно, оглядываясь на дверь, ищет в его бумагах? И почему она прибыла в первый раз в наш дом именно ночью?
Кстати, о доме. Иногда мы говорим, глядя на чью-то дачку: «Этот дом выглядит грустным». Мы так устроены: нам естественно всё очеловечить вокруг. И на это нас очень легко поймать.
Кстати, боты неслучайно говорят женскими голосами: ошибку всегда можно списать на «ну это же женская логика».
Мой собеседник (я только сейчас подумал: «А вдруг он не живой человек?») заметил потом, через несколько реплик: «В американских военных самолётах голосового помощника с женского голоса заменили на мужской какое-то время назад: предупреждения пилотами всерьёз не воспринимались».
Ну а потом разговор закончился, и я просто пошёл читать ленту.
А там мне показали бабушку, которой то ли внуки, то ли дети показали (а все они – за кадром, и только бабушку видно, дети или внуки представлены лишь голосами) оживлённые фото её юности и молодости, где многих с ней на снимке запечатлённых уже нет на этой земле, а она сама, свежая, гладкая, в приталенном платье, с голыми красивыми руками, вдруг ожила на этих фотографиях и смеётся.
Вот она отвела ветку сирени от лица, вот она обнимает отца, которого давно нет в живых, вот она с подругами молодыми («все они умерли, – говорит, – только я тут одна осталась»).
И вот бабушка смотрит на эти ожившие фотографии, смеётся, но чаще плачет.
Да, есть что-то очень трудное в этом.
Одно дело – сохранившаяся любительская киноплёнка, а другое дело, вот, допустим, увидел бы я сейчас оживлённую фотографию моей мамы, которая умерла, когда мне было шесть. И она бы там засмеялась, в золотистом брючном костюме, на фоне листвы, наклонилась ко мне и как будто что-то сказала. (Голос не слышен, ему не пробиться через прозрачную стену времени, через смерть, но я вижу, что она что-то мне говорит, и, кажется, даже могу по губам догадаться, что говорит, а именно: «Дима».)
Не уверен, что это было бы выносимое зрелище.