Любопытные и пытливые граждане с тревогой ждут наступления эры сингулярности, когда умные машины восстанут против человека. А между тем мы уже живем в мире машин, обладающих искусственным интеллектом. Просто они еще не настолько умны или мы не настолько наблюдательны, чтобы заметить их. Дроны летают с помощью искусственного интеллекта, чат-боты и онлайн-службы поддержки — результат работы интеллектуальных программ, сбор и передача данных пользователей в Сети происходят с помощью ИИ. И хотя эти вещи не похожи на чудовищ из фантастического фильма, меняют они нашу жизнь уже сейчас, и меняют очень сильно. А вот к лучшему или нет, «Культуре» рассказал эксперт по искусственному интеллекту, писатель, футуролог Игорь Шнуренко.

— Что такое искусственный интеллект сегодня?

— Есть много определений, но мне больше нравится то, что дал Шейн Легг, один из основателей лаборатории Deep Mind. Его лаборатория создала нейросеть, которая победила человека в игре го, а недавно опубликовала код самой продвинутой в мире программы по созданию текстов. Он считает, что интеллект — это способность агента ставить себе цели и решать разные задачи в меняющемся окружении. Если этот агент — человек, то интеллект естественный, а если машина — то искусственный. Все просто.

— В своих статьях вы пишете, что современные технологии, использующие искусственный интеллект, ломают базовые установки, которые складывались у человечества тысячелетиями. Почему вы так думаете?

— Речь идет о том, что у нас традиционно было некое понятие о приватности, о том, что человек может уединиться, будучи уверен, что его никто не тронет и никто не увидит. Но данные установки меняются, мы уже начинаем привыкать к тому, что за нами постоянно следят. Сначала с юмором говорим, что система, используя алгоритмы, подбрасывает нам рекламу на экран телефона или компьютера, система добавляет нам в друзья или предлагает людей из компаний, которые мы упоминали в разговоре. Мы видим, что даже наши мобильные устройства собирают о нас информацию и тут же ее используют. Транснациональные корпорации навязывают обществу социальные нормы, в которых отсутствуют понятия частной жизни, приватности, права человека жить и работать вне оцифрованной реальности. Последствия такой тотальной прозрачности еще предстоит оценить.

— А когда это началось?

— Еще в начале 2000-х годов, с внедрением поисковиком Google таргетированной рекламы. Затем ту же модель использовал создатель Facebook Марк Цукерберг. Буквально через несколько лет после запуска этой соцсети он заявил, что теперь она, а не общество устанавливает социальные нормы. Но люди не обратили на это заявление внимания, продолжая выкладывать в Сеть свои фотографии и информацию о себе. Многие до сих пор уверены, что это хранится где-то в интернете, но недоступно всем. Мы исторически привыкли к тому, что просто так даже в тоталитарном государстве не следят. Когда в конце 1940-х вышел роман «1984», где Джордж Оруэлл описывал, как человек смотрит телевизор, а экран следит за ним, то это казалось невероятным. Читатели были уверены, что такого в ближайшем будущем не будет и уж точно люди к такому никогда не привыкнут. Сегодня же мониторы именно так и работают, записывая и передавая в «облако» информацию о нас.

— Вы считаете, что мы привыкли?

— Да, для этого потребовалось всего одно поколение — наше. Люди практически привыкли, что слежка становится всеобщей, что нет места, где бы за тобой не следили. Мы считаем это нормальным, думая, что если мы не отключили в мобильных телефонах или соцсетях опцию, которая позволяет за нами следить, то, значит, мы сами виноваты. Но при этом забываем, что есть базовые законы, например Конституция, которая выше любых инструкций по использованию мобильных телефонов или социальных сетей. Надо помнить, что соцсети — это частные предприятия. Многие из них принадлежат американским компаниям, а в законодательстве США есть четкое различие между общественным пространством и частным. В общественном пространстве человек имеет право высказываться, право на свободу слова, самовыражения, пикетов, митингов, собраний. А вот в частном пространстве он ни на что не имеет права. И крупные корпорации, которым принадлежат соцсети, исходят именно из такой логики. У нас больше нет неприкосновенности жилища — туда теперь вторгаются любые гаджеты, записывая разговоры и видео.

— Получается, что мы лишены конституционных прав и свобод?

— Да. Все, что сейчас происходит со сбором данных, на грани закона или вообще незаконно. Но в мире больших международных корпораций это неважно. Самое главное, что ты на этом способен заработать. Поэтому, оценивая опасность еще большего внедрения искусственного интеллекта, мы должны иметь в виду позицию крупнейших технологических компаний. А она такова, что ни закон, ни традиции, ни базовые установки людей не являются для них ограничением.

— Ну а положительное что-то привнесли технологии?

— Конечно. Информация через интернет теперь может распространяться быстрее, и доступ к ней свободнее. Но, с другой стороны, существуют блокировки, а государства и частные компании используют все возможности для цензуры контента, и, более того, они используют их для того, чтобы манипулировать мнением масс. Есть прогресс в технике, есть прогресс в возможностях вычислительных машин. Но давайте по совести спросим себя: а жаждем ли мы наступающего мира «интернета вещей» (множество приборов и датчиков, соединенных между собой и подключенных к интернету. — «Культура»)? Жаждем, чтобы в наш утюг была вмонтирована веб-камера, которая будет за нами следить все время? Сейчас разработаны стены, которые будут слушать и отслеживать сердцебиение людей и передавать эту информацию в «облако». Потом эта информация будет обрабатываться с помощью искусственного интеллекта и продаваться. Но мы не знаем, кто получит доступ к этим данным. Что эта компания сделает, зная все о состоянии нашего здоровья? Хотим ли мы такого мира?

— А у нас есть выбор?

— Технократы нас даже не спрашивают, нет даже дискуссии на эту тему. Считается по определению, что да, мы движемся в этом направлении, ничего сделать нельзя. Но разве есть какая-то естественная потребность, допустим, в беспилотниках? Есть какая-то особая нужда в том, чтобы водителей заменил искусственный интеллект? Да, можно согласиться с тем, что новые системы сократят количество аварий, хотя это еще никак не подтверждено, можно с этим спорить... Хотя вполне можно представить себе какое-то разумное применение новых технологий. Например, система автопилота в автомобиле, корректирующая поведение водителя, но при этом человек все-таки будет оставаться за рулем и нести ответственность.

С внедрением искусственного интеллекта мы сделали шаг назад, а не шаг вперед. Свобод стало меньше, а не больше. Девальвируется такая базовая установка, как ответственность. Раньше человек отвечал за свои поступки и принятые решения, а теперь за него все чаще и чаще принимает решения система с искусственным интеллектом. И у человека атрофируется способность решать что-то самому. Готовы ли мы жить в мире, где большинство решений за нас будут принимать машины? Можем ли мы сказать, что это прогресс? На мой взгляд, это регресс, путь к полутоталитарному или тоталитарному обществу, и даже слово «тоталитарный» не очень точное, потому что это что-то другое, более страшное.

— Сколько данных сейчас собирается в автоматическом режиме?

— Крупные компании совсем не заинтересованы в том, чтобы общество знало об этом. Эта бизнес-модель строится так, чтобы узнать о человеке как можно больше. Для этого о пользователе собирается вся информация, какая только доступна. А доступно очень многое. Все пользуются мобильными телефонами, и любой шаг, любое действие на сотовом — поставить лайк, написать сообщение, просто включить-выключить — отслеживается. Громкость звука, какие цвета и контрастность вы предпочитаете, редактируя фотографии. Потом на базе этой поведенческой информации система искусственного интеллекта делает прогноз поведения человека. Даже по лайкам на Facebook можно понять черты характера человека и выразить их в цифрах: насколько он невротичен, доверчив, экстравертен или интровертен.

Сейчас сбор информации вышел и в офлайн, в реальный мир. Есть такой прием, как картирование, то есть соотносится место, где человек находится, с его телефоном, у Google есть все карты, что там находится, какое учреждение, место, отель, магазин. Все это сопоставляется с другими данными, и получается полная картина жизни человека. И это очень выгодный продукт. Первым по этой бизнес-модели стал работать Google, потом присоединился Facebook, затем другие крупные технологические компании, а сейчас практически идет волна перестройки очень многих компаний на эту модель бизнеса.

— А что они предлагают заказчикам?

— Гарантию того, что реальный человек с определенным набором характеристик — возрастом, доходом, образованием — кликнет на ваш сайт, увидит продукт, придет и с определенной вероятностью его приобретет. Профиль будущего покупателя сделан на основе автоматически собранной информации, которую проанализировал искусственный интеллект. О том, что бизнес охотно покупает такую информацию, говорит невероятная капитализация ее поставщиков: Google стоит примерно триллион долларов, Facebook — более шестисот миллиардов. Их прибыль от продажи этого поведенческого продукта, предсказания поведения людей составляет десятки миллиардов долларов в год — это все более востребовано рынком.

Но ведь и на этом не останавливаются. Чем больше собирается информации, тем лучше предсказывается поведение пользователя. Речь уже идет о стопроцентном прогнозе: что мы будем делать, что мы купим, куда пойдем. Уже есть и книги вполне серьезные о том, как корректировать поведение человека. Если система предсказала его определенное поведение, которое уже продано заказчику, а он «артачится», тогда начинается коррекция. Пользователя начинают побуждать делать то, что им нужно. Получается, что сейчас начинает продаваться контроль над человеком.

— В России данные собирают свои «родные» корпорации или транснациональные?

— В первую очередь все-таки крупные международные — Google, Facebook. Не забывайте, что последнему принадлежит и WhatsApp, и Instagram. Для них люди, граждане России, это просто ресурс, информацию о котором они продают заказчикам по всему миру. И это, насколько я понимаю, практически не облагается налогом, они делают здесь что хотят. А вот власти Евросоюза стараются ограничить деятельность этих компаний. Например, приняли довольно жесткий закон о безопасности данных, который мешает этим компаниям собирать их без ведома людей. У нас нет подобного закона. Кроме этого, европейские власти выписывают этим корпорациям большие штрафы за незаконное использование поведенческой информации в своих продуктах. Например, Google был оштрафован на 4,3 миллиарда евро. У нас тоже Google штрафует Роспотребнадзор на 500 000 рублей — сейчас это меньше 10 000 долларов. Это для компании, у которой ежегодная прибыль составляет несколько десятков миллиардов долларов.

— Получается, у нас нет законов, ограничивающих сбор данных?

— Да. И, в отличие от Европы, даже не выражена точка зрения, что технологии, искусственный интеллект несут какую-то опасность. СМИ следят за каждым высказыванием главы Сбербанка Германа Грефа или других технократов, которые призывают дать технологическим крупным компаниям как можно больше свободы. В Америке и Европе все-таки есть серьезная критика, даже в «Нью-Йорк таймс» появляются очень критичные материалы и про Google, и про Facebook, особенно про то, как собираются данные. У нас просто ничего об этом не пишут.

— А почему?

— Потому что именно госкорпорации, которые представляют одновременно государство и бизнес, активно занимаются внедрением и сбором информации, принимают участие в создании экономики слежки и продажи поведенческого продукта. Они, конечно же, не заинтересованы в том, чтобы об этой деятельности кто-то писал или подвергал ее критике.

— Что можно сделать в этой ситуации?

— Нужно, чтобы каждый человек знал, что гаджеты собирают о нас информацию, и как можно реже ими пользовался. Нужно в этом смысле подражать руководителям Google, Facebook, которые резко ограничивают часы, когда они касаются этих приборов, в остальное время те просто выключены; их дети посещают школы, в которых запрещены гаджеты и учителя преподают, разумеется, не дистанционно, а физически находясь в классе.

Очень важный момент, на который стоило бы обратить внимание: все крупные технологические компании добиваются, чтобы люди были полностью прозрачны и за их поведением был постоянный контроль. Но при этом они держат собственные операции в глубокой тайне. Мы не знаем, что у них внутри происходит, как принимаются решения. Я уверен, нужно законодательно обязать технологические компании раскрывать свою деятельность. Общество должно знать, как они принимают решения, что лежит в основе их бизнес-модели и сколько информации они на самом деле собирают. Потому что, как правило, собирают гораздо больше, чем нужно. Например, несколько лет назад в США разгорелся скандал: оказалось, что термостат от Amazon, который должен регулировать температуру в домах, записывает разговоры своих хозяев.

— Как вы думаете, что ждет нас в будущем?

— Ожидаю, что в ближайшие 5–10 лет бизнес-модель, о которой я говорил, будет активно развиваться. Людей станут не только «предсказывать», а перейдут уже и к контролю, и к управлению, и к «сдаче в аренду». Я не вижу пока что сил, которые смогут это остановить. Правда, думаю, что Европа будет в меньшей степени этому подвержена. А вот США, Британия и, к сожалению, Россия полностью подпадут под влияние этого подхода. Но лет через 15 наступит момент, когда к каждому человеку придет осознание того, что он находится под контролем 24 часа в сутки, что за ним наблюдают и подкидывают ему сюжеты поведения, следуя которым он получает в том или ином виде вознаграждение. Надеюсь, что во многих это породит протест. Сначала они будут стараться обойти систему, найти способ, как обмануть девайсы, приборы, гаджеты. Возникнет, видимо, и организованное сопротивление. Понятно, что технократические элиты будут с этим бороться, но я не верю, что у них получится, поскольку человека нельзя на сто процентов контролировать и управлять им.

Материал опубликован в № 3 газеты «Культура» от 26 марта 2020 года в рамках темы «Искусственный интеллект»