В ближайшей перспективе нейросети вряд ли смогут управлять ядерным оружием

Руководитель аналитического центра Zecurion Владимир Ульянов в беседе с Pravda.Ru прокомментировал план по уничтожению человечества, созданный искусственным интеллектом ChaosGPT, предложивший использовать для выполнения этой цели ядерное оружие.

Аналитик не считает, что нейросети способны причинить человечеству вред в таком смысле и таким образом. Эксперт уверен, что вероятность того, что эта теория может быть воплощена в реальность, крайне мала.

"Во-первых, нейросети для этого нужно дать возможность управления ядерным оружием, что мне представляется крайне маловероятным в принципе, это первое условие. Второе условие — если её научить, каким-то образом, агрессивно реагировать и запускать это самое ядерное оружие. Вот, собственно, и всё. Вот эти два условия нужно выполнить. Но, опять же, как мне представляется, ни одно из них не будет реализовано, в силу различных причин", — сказал Ульянов.

Эксперт полагает, что, во-первых, максимально человеческое участие должно быть для запуска ядерного оружия. А во-вторых, то, что касается использования вот такой системы, фактически любая нейросеть — это так или иначе какой-то инструмент, и вот как мы его научим, чему обучим, таким образом он и будет действовать. Поэтому корректные настройки системы не позволят причинять вред потенциально человечеству, если корректным образом отстроить систему.

Ульянов напомнил, что сначала сам человек должен настроить какую-то нейросеть, дать ей возможность управлять какими-либо средствами, и вот теми средствами она и будет управлять.

"Что касается ядерного оружия, я полагаю, что всё-таки нет, в ближайшей перспективе и даже в какой-то отдаленной среднесрочной перспективе не будет такой возможности, чтобы нейросети управляли ядерным оружием. Это не тот случай и не так необходимость, где нужны нейросети", — заключил аналитик.

Ранее телеканал Fox News сообщил, что искусственный интеллект ChaosGPT попросили придумать, как можно уничтожить человечество, и нейросеть успешно справилась с этой задачей, предложив вариант ликвидации людей при помощи ядерного оружия. Чат-бот назвал людей эгоистичными и разрушительными существами, сообщив, что их действительно стоит уничтожить, пока они не причинили планете ещё больше вреда.