Искусственный интеллект создает риски для человечества

Еще недавно об искусственном интеллекте писали в основном писатели-фантасты. Сегодня же он становится темой дня.

В стройкомплексе России происходит быстрая цифровизация основных процессов. Причем на некоторых направлениях она достигла такого уровня, что можно говорить о применении определенных элементов искусственного интеллекта. Пока это только отдельные его проявления, но тренд становится все более очевидным. Нет сомнения, что он будет только нарастать, а потому целесообразно поговорить вообще о феномене искусственного интеллекта, его использовании в экономике. Сегодня мы только на начальном этапе этого по-настоящему судьбоносного явления, но уже сейчас оно вызывает массу вопросов и массу новых, еще неизведанных рисков, которые только предстоит по-настоящему осознать.

Фазовый переход

Искусственный интеллект (ИИ) все активнее проникает во все сферы жизни, он играет все более значительную роль в развитии общества, внося в него существенные изменения. При этом необходимо учитывать этические и социальные аспекты его использования, например, вопросы конфиденциальности и защиты данных в медицине или в сфере кибербезопасности, а также предотвратить возможное негативное влияние ИИ на рабочие места и рынок труда Сегодня делаются первые попытки анализа опыта применения ИИ. Причем эксперты дают весьма разные оценки и прогнозы последствий и перспектив применения этого инструмента.

По мнению президента Национального института исследований глобальной безопасности Анатолия Смирнова, всех экспертов в вопросах ИИ условно можно разделить на четыре категории: оптимисты, пессимисты, апокалиптики, реалисты. Но в любом случае речь идет о новом технологическом укладе, фазовом переходе человечества.

По сути дела, появление ИИ по значению можно сопоставить с появление типографского станка или электричества, с некоторыми другими эпохальными изобретениями и открытиями.

Многие полагают, что понятие искусственного интеллекта появилось совсем недавно. На самом деле это не совсем так. По словам генерального директора Центра стратегических оценок и прогнозов Сергея Гриняева, в США этот термин возник еще в 1943 году. И всегда он связывался с научным творчеством, с новыми языками программирования и математическими методами. Однако после 2010 года появляется новая реальность, связанная с ИИ, который превращается во все более расширяющий свое проникновение и возможности экономический инструмент.

По мнению Сергея Гриняева, у этого инструмента есть две отличительные особенности. Во-первых, это уникальный продукт эпохи потребления, никто не понимает, как он устроен, но его легко потреблять и использовать. Разумеется, существуют научные школы, где разрабатывается ИИ, но где они находятся и что там происходит, никто не знает.

Во-вторых, в 2023 году на глобальном саммите по безопасности в Лондоне было заявлено, что ИИ несет в себе для человечества экзистенциальную опасность. И она будет только нарастать. Сегодня мы имеем дело с первым поколением искусственного интеллекта, оно сменится вторым, затем третьим… И что будет с нами? Происходит зарождение общества будущего, но каким оно будет, никто не знает. Пока мы имеем дело по большому счету с ИИ в зародышевой стадии, он преимущественно используется для обработки информации. Но нельзя ни на минуту забывать, что это только самое начало.

Этот прекрасный новый мир

Главный вопрос: а что будет дальше? Ведущий научный сотрудник Военно-инженерной корпорации Артем Артемов полагает, что в период с 2025 по 2050 годы появятся самообучающие интеллектуальные системы. Они сами будут способны «вынашивать» изменения, сами ставить перед собой и решать сложные задачи. Причем, часть таких систем уже есть.

По сути дела, мы получим другую модель культурного развития. Суть такой модели в том, что она познает информацию о мире и откладывает ее в своей памяти, а затем использует этот потенциал для нового витка движения вперед. Так развивалось и развивается человечество, теперь же это будут делать и интеллектуальные системы.

В этой связи на каком-то этапе неизбежно возникнет вопрос, считает директор Института общественных наук РАНХиГС Павел Голосов, ИИ соперник или помощник человека? Сегодня на него ответить трудно, но одно ясно — ИИ станет активным участником в построении нового мира. А вот какова будет его роль, это еще предстоит понять.

Что же будет с людьми?

Пока же мы можем только констатировать, что проблемы, связанные с ИИ, множатся, причем по экспоненте. А с ними увеличиваются и риски. Причем это не просто привычные нам риски, а риски, связанные с человеческим интеллектом, подчеркивает член-корреспондент Российской ассоциации космонавтики им. К.Э. Циолковского, член Совета по внешней и оборонной политике Андрей Ионин.

На этом фоне растут алармистские настроения. Некоторые полагают, что осталось совсем немного времени, чтобы остановить развитие ИИ вплоть до его уничтожения. Однако это крайнее суждение, которое вряд ли можно реализовать. Но есть и более прагматические риски.

Знания об ИИ концентрируется преимущественно в IT-компаниях, что потенциально наделяет их особенной властью, так как они контролируют повестку его изучения и продвижения.

ИИ все больше становится источником конкуренции между странами. В мире укореняется мысль: кто дальше продвинется в этом вопросе, тот и займет лидерские позиции. И как в свое время была космическая гонка между державами, так теперь разгорается гонка в вопросах искусственного интеллекта.

В итоге в мире возникли две стратегии по вопросу ИИ: первая — все запретить, вторая — игнорировать этот вопрос, пусть он развивается сам по себе. Последний вариант может привести к тому, что предсказывает Илон Маск: «Роботы станут работать, а человек будет заниматься только своими хобби».

Впервые человечество создает технологию, которая замещает главное его преимущество — разум, предупреждает Андрей Ионин. Что же будет с людьми?

Новый конфликт человечества

Следует понимать, что ИИ создает проблемы и риски, но при этом отвечает на глобальные вызовы цивилизации. Еще в далеком 1972 году в Римском клубе вышел доклад: «Пределы роста». В нем его авторы, крупные ученые той эпохи, указали на опасность истощения ресурсной и технологической базы существующей на тот период экономической и политической модели. И хотя многие критиковали эти выводы за излишний пессимизм, но когда в 2008 году был проведен анализ того, как за прошедшие десятилетия изменились основные параметры, описанные в той работе, выяснилось, что в целом продолжает осуществляться все тот же базовый сценарий. И, как считают, некоторые эксперты, именно ИИ способен его изменить, снизить потребление ресурсов на основе роста значения виртуального пространства.

Правда, как полагает Артем Артемов, потенциально эта ситуация провоцирует конфликт двух частей человечества: тех, кто желает жить в новой реальности, и тех, кто желает, чтобы все оставалось по-старому.

Как оценить ИИ

Безусловно, по крайней мере, на первых этапах внедрения ИИ, самое большое влияние он будет оказывать на экономику. По мнению Павла Голосова, сегодня далеко не во всех отраслях сложились благоприятные условия для использования искусственного интеллекта, нужны дополнительные импульсы для его развития.

Мир ИИ основан на базах данных, их надо не только намного больше, чем есть сейчас, но работа с ними потребует освоения новых навыков и новой культуры.

При этом для бизнеса ценность ИИ в первую очередь будет определяться полученным от него экономическим эффектом. И тут возникает довольная сложная ситуация — как его посчитать? То, как мы привыкли это делать, не получится. Андрей Ионин считает, нужны совсем иные методики.

Второй, примыкающий к первому вопрос: кто будет отвечать за решения, связанные с использованием ИИ, за конечный результат его применения? Сегодня мало кто готов брать на себя такую ответственность.

Опаздываем с пониманием

В конечном счете в один прекрасный момент неизбежно возникнет вопрос о месте человека в мире, где широко представлен ИИ. Для ответа на него Андрей Ионин предлагает найти ответы на шесть пунктов.

Первый — определить, какие существуют виды биологического интеллекта (математический, музыкальный, художественный и так далее).

Второй — определить, в каких видах интеллекта человек априори превосходит ИИ.

Третий — разработать методики оценки различных видов интеллекта.

Четвертый — разработать спецкурсы по развитию этих отдельных групп интеллекта.

Пятый — найти профессии, где человеческий разум сильнее искусственного. Креативность и эмпатия — это те, качества, в которых человек превосходит ИИ.

Шестой — пересмотреть системы образования от детского сада до вуза с целью развития тех частей интеллекта, в которых человек превосходит искусственный разум.

Сегодня опасность заключается в том, что человек не замечает и не осознает того, как создаются технологии ИИ. Мы запоздало реагируем на его развитие и продвижение.

Расслабляться не приходится

Пока если что и может успокаивать, по мнению Сергея Гриняева, так это то, что нынешний ИИ — это не более чем результат цифровой трансформации общества и экономики. Нет новых кардинальных прорывов, технологии ИИ разрабатываются на базе старых математических моделей.

Особенно это характерно для России, здесь недостаточно прорывных ПО, не достает научных школ и технологической базы. Все это предстоит еще создать. Вопрос в том, сможем ли мы это сделать?

Но это ничуть не снижает риски. Искусственный интеллект умнеет, а вот человеческий — скорее деградирует. Через какое-то время появятся технологии по своему уровню не уступающие возможностям разума человека.

В этой связи на повестку дня в мире выходит вопрос регулирования развития ИИ. Кто первый напишет правила и навяжет их остальным, получит неоспоримое преимущество в этом вопросе.

Владимир Гурвич