🏌️Каких рисков боятся крестные отцы AI: часть 2

Вот конкретные механизмы, которые пионеры AI упоминают в своих выступлениях и интервью:

🔴 Йошуа Бенжио беспокоится о появлении автономных агентов, способных ставить собственные цели и оптимизировать их вне рамок, заданных человеком.
Речь не о злом ИИ, а об ИИ, у которого цели не совпадают с нашими.

🟠 Джеффри Хинтон делает акцент на внезапности и необратимости появления ИИ, способного манипулировать людьми лучше самих людей — например, под видом помощника или советника.

ИИ, способный сам обучать себя, писать код, копировать себя в облаке и обманывать системы контроля может "выйти из-под контроля" даже без злого умысла.

Возможная перспектива - армия дешёвых цифровых агентов, которые могут распространять фейки и дестабилизировать общество или внедряться в стратегические решения на уровне стран.

🟢 Янн ЛеКун — скептик экзистенциальных угроз, но признаёт возможность злоупотреблений ИИ со стороны людей (не самого ИИ) и считает это основным вектором риска.
Он опасается не «восстания машин», а усиления уже существующих систем давления и неравенства с помощью ИИ.