Как приручить аватара

Этой зимой на южнокорейском телеканале MBC вышел выпуск документальной передачи I Met You, где с помощью технологии виртуальной реальности женщина «встретилась» со своей семилетней дочерью, умершей в 2016 году. Мы собрали четырех экспертов из разных областей, чтобы в формате видеоконференции обсудить, как жить в мире с цифровыми копиями и готовы ли мы к этому.

ЭКСПЕРТЫ

Александр Бухановский
Руководитель Национального центра когнитивных разработок, директор мегафакультета трансляционных информационных технологий ИТМО

Анна Кронгауз
Издатель онлайн-СМИ N+1 и проекта «Новая этика»

Анна Никитова
Руководитель практики интеллектуального и информационного права

Клавдия Боченина
Старший научный сотрудник Национального центра когнитивных разработок, руководитель научной группы «Алгоритмика сложных систем»

О значении цифрового аватара

А.Б.: Если практику, описанную в примере с девочкой, использовать как метод терапии, то почему бы и нет. А вот если рассматривать как средство перевода людей в виртуальный мир — может быть, это не совсем хорошо. Мы все-таки живем ради мира будущего, то есть чтобы приготовить себя к тому, что будет потом. Поэтому цифровой аватар — это не шаг к бессмертию: его миссия служить нам здесь и сейчас. Аватар, конечно, может наследовать черты конкретных людей, в том числе и нас, но только с той целью, чтобы нам было легче его понимать и принимать.

А.К.: Вообще, сейчас существуют два вида разработки цифрового аватара. Первый — создание визуальной копии человека с его мимикой и чертами лица; второй — создание цифровой копии, содержащей все сведения о нем, которые уже есть на различных интернет-площадках. Однако если мы резюмируем всю информацию о человеке, например, за последние 5–10 лет, то получаем не цифровую копию, а только набор данных, никоим образом ей не равный.

К.Б.: Здесь может быть и третий вариант — создание программного агента, который наделяется самим человеком некоторыми полномочиями.

А.К.: Полномочиями на что? На развитие? Как в упомянутом случае с девочкой: она умерла за несколько лет до организованной встречи, значит, ребенок, которого сымитировали разработчики, был не той девочкой, а лишь персонажем старше. Он создан на основании предположений, как бы изменилась девочка внешне и «внутренне». Это отдельно спроецированный персонаж.
Мы развиваемся на протяжении жизни, а если зафиксировать все то, что обо мне можно собрать из цифровой среды, и потом через 10 лет показать моим друзьям и родственникам, то моя цифровая копия будет странно выглядеть и разговаривать. Она должна адекватно изменяться за это время, чтобы оставаться интересным собеседником, агентом коммуникации.

К.Б.: Если говорить о технологии создания цифрового аватара, то берутся данные самого человека, затем они смешиваются с массивами данных других людей. Так делают, чтобы на основании этого можно было генерировать новое, а не просто копировать. И тут, конечно, не идет речь о сохранении какой-то индивидуальности. Я бы сказала, что цифровой аватар — это некая грубая имитация, и было бы странно со стороны того, кто с ним общается, воспринимать его как продолжение человека.

А.Б.: Коллеги, боюсь, я с вами не могу согласиться. Аватар не может не развиваться — по крайней мере, по той логике, которой мы следуем в Университете ИТМО. Однако возникает дилемма: разовьет ли аватара конкретный человек или аватар справится самостоятельно?
У цифрового аватара есть набор данных, с которыми он начинает процесс самообучения. Этот набор может быть привязан к нам самим (нашим данным), то есть фактически являться нашим отражением. А может быть нами скорректирован: по аналогии с тем, как мы делаем сейчас с фотографиями в фотошопе. Или может унаследовать образ розового пони, а если захотите — и Ольги Бузовой. Кроме того, каждому аватару свыше (владельцем или оператором) устанавливаются ценности: не в общем смысле «любить», «дружить» и прочее, а такие, чтобы их можно было оцифровать, приведя причинно-следственные связи. Например, нужно указать аватару модель ценности в форме «любовь — это...» — как на обертке жвачки Love is. Исходя из таких ценностей аватар меняется и строит свои последующие действия, собирает новые данные. То есть меняет свой облик, стремясь следовать этим ценностям. Поэтому то, куда движется аватар в своем развитии, зависит от задач, которые мы ему ставим.
Мы часто говорим, что «вот бы мне такого, как я», а еще лучше — служебную сущность, которая выполняет лишнюю работу и не ворчит. В Университете ИТМО мы-то как раз и рассматриваем цифрового аватара не как продолжение личности или средство цифрового бессмертия, а как удобного служебного агента, который помогает нам жить лучше.

О принадлежности

А.Н.: Представим, вы работаете в какой-то компании, по вашему образу и подобию создали аватара. Значит, что он в этой организации оформляется как «произведение». Такая же ситуация, если бы с вас писали портрет. Да, это самостоятельное произведение, но не самостоятельная личность, какой может стать сейчас аватар.

А.К.: Если я увольняюсь, могу ли я выкупить своего аватара? Кому он принадлежит?

А.Н.: У любого работника должно быть право на вознаграждение за это произведение. В такой ситуации спорные вопросы о цифровом аватаре будут урегулироваться, скорее, как в случае с объектом интеллектуальной собственности. Часто в подобные договоры добавляют условия о возможности копирования, редактирования и доработки. Таким образом, вам выплачивается вознаграждение за то, что вы внесли образ, а вот дальнейшие изменения урегулироваться не будут, если только они напрямую не вредят вашей репутации и достоинству.
Таких правовых споров пока не было. Нужна практика. Если ваш аватар будет использован, чтобы получить какую-то выгоду, с точки зрения науки или других ценностей, то и вреда обществу и вам лично нет.

А.К.: Если мы говорим о формировании практики, имеет смысл посмотреть на технологические платформы, где мы массово оставляем персональные цифровые следы. У этих платформ на протяжении десятилетий по-разному эволюционировал подход к наследованию аккаунтов, чьи владельцы умерли. Одни платформы не давали доступ наследникам к аккаунту, а другие давали на какое-то или неограниченное время. Третьи оставляли наследников без доступа к редактированию аккаунта. Опять же, речь была о передаче данных от физических лиц к физическим. А что в случае, когда права принадлежат юридическому лицу?

А.Н.: Я пока здесь не вижу серьезной разницы.

А.Б.: Но аватар — это не только данные, это еще и действия: операции над данными, посредством которых он приносит пользу владельцу. С точки зрения интеллектуальной собственности, по законодательству персональные сведения защищаются как база данных ЭВМ РФ. Однако возникает вопрос принадлежности: конечно, данные аватара создают конкретные личности. Но если окажется, что и эта база данных сделана человеком в ходе профессиональной деятельности, за которую он получает зарплату, то, соответственно, цифровой аватар станет собственностью работодателя.

А.Н.: А если цифровой аватар будет принимать решения, то от чьего лица?

А.К.: Решения он принимает автономно только в том случае, если разделен со своим прототипом, то есть хозяином. Если аватар — цифровой симбионт владельца, тогда последний имеет полный контроль над настройками, обладает полной информацией о том, какие действия совершает аватар.
Думаю, у нас пока мало данных, чтобы говорить о свободе действий аватара, а поймем мы ее только экспериментальным путем. Похоже на происходившее с голосовым помощником Алисой: она обучалась в процессе — на массиве данных, которые люди ей предоставляли в ответ. Поначалу Алиса была груба, потому что в основном люди общались с ней не очень ласково. Все-таки искусственный интеллект не обладает собственной эмпатией. Отсюда и разные сложности в нарушении стандартов поведения.

Об ответственности

А.Б.: Аватары — это не дикие существа в цифровом мире. Они не живут сами по себе, должна быть экосистема аватаров: некая среда, куда мы их погружаем и где они могут друг с другом знакомиться и обмениваться данными, сервисами (услугами). Предполагается, что операторы этой среды будут обеспечивать безопасные каналы, ставить задачи анализа действий аватаров, отлавливать спам и другие формы их асоциального поведения. Так или иначе, развитие экосистемы аватаров должно быть централизованным: с помощью создания и «полиции», и «похоронной службы», и даже «школы», которая нужна, чтобы цифровой аватар не за год достигал уровня, достаточного для общения с хозяином, а, например, за неделю.

А.Н.: Допустим, появился аватар, который начал проказничать. Правовые инструменты никуда не исчезают — будет оспаривание совершенных действий. Вопрос такой: с технической стороны это доказуемо?

А.Б.: Да.

А.Н.: Тогда риски находятся скорее в плоскости технической экспертизы и зависят от компетенции специалистов при рассмотрении таких споров.

А.К.: Зачатки цифровых аватаров уже есть сейчас: это аккаунты в социальных сетях. То есть набор изображений меня, некоторых моих высказываний. Сущность, которая взаимодействует с другими, такими же, как она. За каждым аккаунтом стоит хозяин, за исключением, когда права передаются кому-то, например PR-менеджеру. Если мы рассматриваем трансформацию аккаунта в соцсети в более автономную сущность — это одна история. Другая, о которой говорит в своих выступлениях Герман Греф: аватары через некоторое время заменят людей на многих рабочих местах. Например, оцифрованный персонаж, работающий по протоколу, а не живой сотрудник будет разговаривать с клиентами.

К.Б.: Могу сказать, что такие чат-боты уже активно используют в юридической сфере, например для проверки контрактов, или в банковской среде. До того как запускать массовую аватаризацию, ее нужно тестировать на безопасном виртуальном полигоне. И сначала проводить эксперименты не с такими вещами, как покупка квартиры с передачей данных кредитных карточек, иначе вдруг цифровой аватар построит аватарный МММ (крупнейшая в истории России финансовая пирамида — примеч. ред.) или спустит все деньги на что-то в виртуальном мире. Нужно тестировать на менее чувствительных к краже пользовательских данных, изучать системные эффекты, используя большой симулятор цифровой среды для исследования поведения аватаров, смотреть на их состояние.

А.К.: Обсуждая данные, мы снова говорим об утилитарном использовании аватаров. А что, если мой аватар подружился с аватаром человека, с которым я не хочу иметь ничего общего?

К.Б.: Запретить водиться с ним :)

А.Н.: Тут вопрос о пределах предоставленной свободы аватару и полномочий на принятие им решений «о дружбе».

А.Б.: Если это ваш аватар, то только у вас он и есть. В нашей логике у цифрового аватара пока лишь два способа чему-то научиться: когда владелец «поговорит» с ним или же когда сам аватар проявит активность, мол, «смотри, все твои друзья это сделали, может ты тоже?». То есть происходит социальная рефлексия аватаров. Однако слово хозяина здесь всегда остается последним.

БЛИЦ

Что такое цифровой аватар?
К.Б.: «Операционная система», которая ранжирует различные сервисы и предлагает обратить на них большее или меньшее ваше внимание.
А.Б.: Это автоматизированный персональный помощник.

Каких новых профессий ожидать при популяризации цифровых аватаров?
К.Б.: В будущем вполне возможно появление, например, цифрового археолога: по слепкам данных, хранящихся на различных накопителях информации, он будет восстанавливать прототип человека.

Человек попользовался аватаром, но ему не понравилось. Нужно ли уничтожить аватара? Кто будет это регулировать?
А.Б.: Тут можно отталкиваться от опыта в сетевых играх. Там вы действуете за персонажа и развиваете его сами, а здесь этим занимается искусственный интеллект. Вот и все различие. Поэтому, если вы не хотите использовать аватара, просто завершите это, как делаете с игрой.

Если человек умирает, какова судьба его аватара дальше?
А.Н.: Хорошая аналогия с персонажами ролевых онлайн-игр, например World of Warcraft. Есть случаи, когда передавали персонажа и когда нет. С цифровым аватаром все зависит от того, кому принадлежат права на объект. Если организации-работодателю, то она и будет им распоряжаться.

Какие этические проблемы вы видите в аватаризации?
А.Б.: С технической точки зрения проблемы могут возникнуть такие же, как и с искусственным интеллектом. Сознание и эмоции у обоих имитируются, а значит, они не умеют мыслить и чувствовать в человеческом понимании этого. Поэтому не нужно взращивать неоправданные ожидания...
А.К.: Все этические проблемы проявляются в момент пересечения аватара с реальным миром. Например, кто ответственен за то, что аватар заказал продукты, а курьер приехал, когда меня не было дома? Я, не внесшая доставку в расписание, или аватар?