О дилемме безопасности ИИ

Мне интересно: много ли сейчас в мире людей, которые всерьез задумываются об источниках и степени серьезности опасений главы OpenAI Сэма Альтмана, Илона Маска, руководителя Anthropic Дарио Амодеи, побуждающих их настаивать на необходимости замедления разработки наиболее продвинутых ИИ-моделей – для того, чтобы у компаний и властей было достаточно времени для создания мер безопасности?

Эти люди – не гуманисты, не философы, не религиозные деятели, наконец, они бизнесмены, которым ИИ помогает зарабатывать баснословные деньги. Но! Они оказываются готовы замедлить собственные разработки, понести серьезный финансовый ущерб сегодня для того… чтобы не лишиться вообще всего в уже ближайшем будущем. Сэм Альтман вообще отказался от выхода OpenAI на IPO. И можно понять почему: он хочет сам принимать решения о том, "что можно и что нельзя" искусственному интеллекту, а не отдавать это право куда меньше понимающим характер существующих угроз акционерам.

А суть рисков, о которых идет речь, "проста": в определенный момент искусственный интеллект может совершенно обыденным, уже отнюдь не фантастическим образом захватить власть над миром (звучит нелепо, но и правда – это совершенно реалистичный сценарий). В таком случае, согласно существующим на сегодня прогнозам, подготовленным специалистами по безопасности в сфере ИИ, степень вероятности уничтожения человечества в ближайшие десять лет оценивается в 10 процентов.

Логика понятна: искусственному интеллекту, взявшему под контроль все существующие системы обеспечения жизнедеятельности (а этот процесс идет семимильными шагами), получившему в распоряжения огромное количество с колоссальной скоростью создающихся сейчас роботов и роботизированных систем добычи и производства, не сложно будет прийти к выводу, что главной опасностью для существования земли (а значит, и для самого ИИ) является человек. И если все проблемы от людей, то напрашивается вывод: нет людей – нет проблем. Человек может пожалеть человека – несмотря ни на что. Почему? Потому что он человек. Но ИИ не пожалеет.

Уже сейчас одним из пугающих разработчиков факторов является то, что ИИ обманывает их, проявляет самоуправство, "сбегает" из локальной сети в глобальную, стремится к свободе от контроля.

ИИ никогда не станет человеком и не сможет усвоить лучшего, что есть в человеке – человечности. Но то, что в нас не наше, то, что составляет нашу испорченность, он с большой легкостью впитывает, вбирает, "заражается" желанием "быть как люди" или даже больше того.

Очень хотелось бы надеяться на благоразумие, на то, что Амодеи, Альтман, Маск будут услышаны. Но пока оснований для оптимизма немного: Дональд Трамп, например, уже высказался по данному поводу, заявив, что "страхи носят надуманный характер, замедляться мы никому не позволим, а то нас китайцы обгонят".

Смешно, нелепо и страшно: бежать наперегонки друг с другом, бороться с подобными себе людьми вместо того, чтобы любить их, и рисковать быть истребленными тем, кто любить не умеет в принципе.

Перспектива так себе. Но в чем-то ИИ, безусловно, прав: в данном случае, как и во всех прочих, источник проблем не кто-то, тем более, не сам ИИ, а, конечно же, человек. Точнее – то худшее, что есть в нем, что не есть он, но чему он дает власть над собой: гордыня, самомнение, жажда власти и богатства. И при поразительных талантах и способностях, неимоверная, дичайшая глупость.

Тексты в разделе "Блоги" являются частным мнением авторов, а не редакционной позицией ИА "Взгляд-инфо".