ИИ знает, как нам лучше. Но знает ли он, что для нас хорошо?

Один из новых страхов, характерных для нашего времени (он, возможно, еще не "вырос" вполне, но имеет для этого все необходимые составляющие), это страх перед искусственным интеллектом: не захватит ли он в какой-то момент мир, не отберет ли у нас землю и не решит ли, что без людей ему лучше?

И, с одной стороны, рисующиеся при этом в воображении картины достаточно буквально повторяют сюжеты тех фантастических романов и фильмов, которые мы все когда-то читали или смотрели. А с другой… С другой, слишком многое, о чем когда-то писали фантасты, давно уже стало привычной реальностью. И потому можно ли исключить, что такой же реальностью станет в недалеком будущем "власть ИИ"?

Полагаю, что, к сожалению, нет. И причина этого – не в самом искусственном интеллекте, его уникальных и поражающих воображение "способностях". Причина этого в людях. Именно от них зависит – делегировать ли нейросетям возможность принимать за нас важнейшие решения, делать выбор, который должны были бы делать только мы сами, предоставлять ли ему право думать за нас и вместо нас – пользуясь при том замечательным "шансом" не думать самим.

Совершит ли человечество такую ошибку, пройдем ли мы в какой-то момент своего рода точку невозврата, когда нам останется только смотреть за тем, как ИИ начинает войны, с его точки зрения оправданные и очень логичные, как он сокращает количество людей до необходимого минимума или вообще приходит к выводу, что они более не нужны, поскольку от них одни проблемы, и готовится, уничтожив их, начать постепенную колонизацию космоса и т.д. и. т. п.?

Не исключено, но предсказывать именно такой вариант нашего будущего не возьмусь: мы и сами можем "успеть справиться" с задачей уничтожения друг друга, самих себя и Земли заодно и без его участия, не оставив ему в этом смысле уже никакой "работы".

Важнее другое. Погубит нас в любом случае не искусственный интеллект – как во втором случае, так и в первом. Губит (и погубит) другое. Люди настолько не ценят в себе подлинно человеческого, настолько игнорируют его, настолько вытесняют его из своей жизни, что в конце концов они просто перестанут понимать – какая разница между ними и ИИ, понимать, почему нельзя позволить ему руководить нашей жизнью: ведь он же знает, как для нас "лучше".

Он же и правда знает, как лучше для нас как для биологических существ, как для вида, как для потребителей благ, для лаборатории гормонов и цепочек окислительных процессов. Он не знает лишь одного – что для нас лучше собственно как для людей, для духовных личностей, для тех, кто является неизмеримо большим, нежели просто "понятные" тело и психика.

Если бы люди помнили об этом, то они, конечно, никогда бы не уступили ему право решать и думать за них. Но поскольку они об этом забывают все основательнее и основательнее, то столь роковую и фатальную ошибку они вполне могут совершить.

Если прежде не совершат, как я уже сказал, какую-нибудь другую – но по той же самой причине: просто-напросто не отдавая себе отчета в том, кто они и Кто их создал.

Тексты в разделе "Блоги" являются частным мнением авторов, а не редакционной позицией ИА "Взгляд-инфо".