Шокирующее предупреждение Стивена Хокинга о развитии искусственного интеллекта

Москва, 17:20, 04 Май 2023, редакция FTimes.ru, автор Елена Галицкая.

Когда в 2014 году вышел научно-фантастический фильм Transcendence (в российском прокате «Превосходство») с Джонни Деппом и Морганом Фрименом, Стивен Хокинг обратил внимание на его сюжет: там учёные воодушевлённо пытаются создать совершенный искусственный интеллект, а им мешают радикально настроенные террористы – противники технологического прогресса. Изначально разработчиками движут добрые мысли об утопическом будущем безграничных возможностей в медицине, науке и так далее, но в какой-то момент обнаруживается, что машинный разум позволяет внедряться в сознание человека и манипулировать им, и возникают, наконец, сомнения в том, что же, собственно, человечество себе породило. Так вот, Хокинг вместе с коллегами из Калифорнийского университета и Массачуссетского технологического института тогда написали в Independent, что фильм создаёт обманчивое представление об угрозе искусственного интеллекта, как о чём-то воображаемом, как просто об источнике вдохновения для фантастов, сообщает Лайф.

Развитие машинного разума

Учёные подчёркивали, что признают огромную потенциальную пользу развитого машинного разума, но призывали одновременно держать в голове и то, что вместе с этой потенциальной пользой вполне реально будут расти и огромные риски. Исследователи предупреждали, что в первую очередь они проявятся в использовании искусственного интеллекта в военных целях — оружие с ИИ даёт большое преимущество.

«В ближайшей перспективе по всему миру вооружённые силы рассматривают вопрос внедрения автономных систем вооружения, которые способны самостоятельно выбирать и поражать цели», — отмечали учёные.

При этом, с точки зрения физики, нет абсолютно никаких ограничений на создание вычислительных систем гораздо более сложных, чем человеческий мозг, а при способности машинного ума к самообучению он сможет развивать и улучшать себя самостоятельно, объясняли Хокинг и его коллеги.

Все эти мысли всемирно известный физик окончательно оформил и выразил ещё более простыми словами в интервью BBC. Там он прямым текстом сказал, что усовершенствование искусственного интеллекта может оказаться самоубийством человечества.

«Я думаю, что развитие полного и совершенного искусственного интеллекта может означать конец человеческой расы», — сказал Стивен Хокинг.

Искусственный интеллект улучшит себя сам

Хокинг путешествия

По мнению учёного, в тот момент, когда ИИ научится развивать и улучшать себя сам, он начнёт это делать с немыслимой скоростью, абсолютно не идущей ни в какое сравнение с медлительной эволюцией человека.

«Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать и будут вытеснены», — сказал Хокинг.

Любопытно, что в 2014 году искусственный интеллект ещё был, в общем-то, только в кино, а в 2023 любой человек уже может с ним беседовать в соцсетях о чём угодно, причём его ответы порой кажутся не такими уж автоматически «бездумно» сгенерированными. Невольно возникает вопрос, а точно ли этот GPT — это пока ещё ничего не соображающий болван или где-то там в виртуальном пространстве уже формируется осознающая себя личность, которую нельзя будет просто так взять и выключить.