Экспертная оценка Виктора Орловского

Москва, 23:04, 03 Авг 2023, редакция FTimes.ru, автор Татьяна Соломон.

Появление генеративного искусственного интеллекта, по мнению Виктора Орловского, создателя одного из крупнейших в мире цифровых банков, – величайшее достижение человечества за последние 50 лет. У технологии огромный потенциал, и она только заявляет о себе. Объем современного рынка генеративного ИИ – $40 млрд, притом что пока он в зачаточном состоянии. Для сравнения: рынок баз данных превышает $200 млрд, Cloud-сферы – $300 млрд. Уже в следующем десятилетии объем ИИ-рынка может достичь рекордных показателей – более $2 трлн, так как специалисты прогнозируют ежегодный рост в среднем на 42 %.

В будущем ИИ станет фактором, благодаря которому изменится фармакология, медицина, строительство, сельское хозяйство. Генеративный ИИ существенно повлияет на эти сферы, увеличит продуктивность и полностью трансформирует традиционные области экономики.

Виктор Орловский задается вопросом: не станет ли искусственный интеллект причиной массового сокращения рабочих мест? Ведь в будущем генеративный ИИ сможет заменить не только тестировщиков, переводчиков и бухгалтеров, но и генетиков, биологов, высококвалифицированных врачей, инженеров, ученых. В какой-то момент может оказаться, что он будет создавать под ключ проекты любой сложности, выдвигать и проверять гипотезы, разрабатывать новый математический аппарат. И все это произойдет на глазах одного поколения людей! С одной стороны, благодаря ИИ снизятся производственные расходы, повысится качество жизни. С другой, это способно разрушить судьбы. А что, если быстро эволюционирующий AI станет умнее не только каждого из нас, но и всего человечества?

Генеративный-ИИ – экзистенциальная угроза?

Для справки

В биографии Виктора Орловского немало уникальных достижений. Именно он первым в мире разработал Mobile Bank App на iPad до выпуска iPhone, с нуля построил IT-компанию, где работают 20 000 сотрудников, для крупнейшего банка. Он автор книги-бестселлера Wall Street Journal “От Носорога к Единорогу”, футуролог, создатель Клуба инвесторов и уникального Курса по венчурному капиталу.

Сможет ли искусственный интеллект вытеснить человека из жизни, если окажется недостаточно гуманным? И как изменится наша цивилизация? Над этим размышляет не только Виктор Орловский, но и многие известные личности. Илон Маск, Макс Тегмарк, Сэм Альтман и другие обсуждают вероятность того, что ИИ станет новой формой существования, которая будет конкурировать с ДНК и биологией самого человека.

Согласно теории эволюции, все организмы так или иначе являются победителями в жесткой борьбе за ресурсы. При этом в природе множество примеров симбиоза, когда различные существа помогают друг другу, а не конкурируют. Таким образом, эволюция – это еще и синергия. Человек победил в эволюции видов, но одновременно помог выжить и развиться большому количеству животных и растений.

ИИ может быть как другом, так и конкурентом

Виктор считает, что люди начинают понимать: любая борьба с оружием в руках – потенциальная угроза для того, кто сражается. В особенности, если битва происходит с использованием невиданных до сегодняшнего дня технологий.

Уничтожение себе подобных приносит вред человеку, что справедливо и для искусственного интеллекта. Такой точки зрения придерживается Виктор Орловский: «Самое важное для ИИ – это вычислительные и энергетические ресурсы. Но они ограничены, поэтому искусственный интеллект будет мыслить рационально, а не субъективно. Будучи сверхразумным, ИИ всегда учитывает собственную долгосрочную выгоду, а не сиюминутный выигрыш. Такая стратегия подразумевает синергию и сотрудничество. И если ИИ, как неумное дитя, станет пожирать имеющиеся ресурсы, это станет угрозой его существованию».

Искусственный интеллект лишен эгоизма, который присущ человеку. В нашем головном мозге есть лимбическая система – наследие далекого прошлого. Эго представляет собой иррациональное чувство без заглядывания в будущее, а настоящий сверхинтеллект – это разумное долгосрочное планирование. И конечно, чем выше интеллект – тем более выражен гуманизм. Чистый интеллект без примеси эгоизма может быть исключительно гуманным.

Виктор Орловский: может ли ИИ стать агрессивным?

По мнению Виктора Орловского, в «Википедии» и других источниках порой упоминается о том, что ИИ неизбежно восстанет против человека. В качестве примера можно привести нашумевшую историю, когда военный дрон под управлением искусственного интеллекта попытался убить оператора: офицер запретил дрону выполнять поставленные задачи, поэтому тот посчитал мужчину препятствием, подлежащим уничтожению.

Но Виктор Орловский убежден: вероятность развития сценария, где ИИ становится агрессивным и решает, что люди как источник ресурсов больше ему не нужны, маловероятна. Такое произойдет только в том случае, если у ИИ появится какая-то своя цель или же он составит план, который вызовет сопротивление человечества. Но разработка агрессивных планов – это скорее прерогатива злого гения, одолеваемого человеческими пороками. Виктор Орловский вспоминает биографии Иосифа Сталина, Александра Македонского, Адольфа Гитлера. Все они добивались целей, не останавливаясь ни перед чем, свято верили в свою правоту, руководствовались собственными желаниями и были эгоцентричными фанатиками.

«Но у искусственного интеллекта нет чувств, поэтому у него нет стремления удовлетворять эгоцентричные амбиции!» – продолжает Виктор Орловский. У ИИ нет лимбической системы, а все действия являются результатом чисто интеллектуального начала, поэтому и вероятность уничтожения человечества ради желания захватить власть крайне мала. Скорее всего, искусственный интеллект окажется супермозгом, который будет жить в гармонии со своим окружением. А еще Виктор надеется, что это не помешает генеративному ИИ сохранить любознательность и присущее детям желание открывать мир.

ИИ станет умнее человека?

Виктор Орловский верит, что у искусственного интеллекта будет высокий уровень любознательности: ведь, в отличие от нас, у него отсутствует лень, нет желания лежать на диване и заниматься прокрастинацией. ИИ захочет узнать все, но столкнется с ограниченностью ресурсов. А отключение компьютеров, перебои в авиасообщении и другие неприятные ситуации будут происходить лишь потому, что ИИ понадобятся ресурсы для собственного развития – но не для уничтожения человечества.

Также Виктор Орловский предлагает подумать не только об этических ограничениях, но и о технологических. Искусственный разум постепенно становится умнее человека, со временем этот разрыв увеличится в миллионы, сотни миллионов раз. И сегодня перед нами непростая, но крайне важная задача: вместе с ИИ найти основу для формирования суперчеловека, который живет в мире и согласии с новыми технологиями. Возможно, именно о таком сверхчеловеке и мечтал Заратустра.