Мария Ресса призвала ограничить ИИ законом, пока люди не потеряли контроль

Мария Ресса высказалась об этом во время поездки в Осло, где участвовала в конференции об угрозах демократии. Ее основной тезис касается так называемого агентного ИИ: систем, которые способны самостоятельно разбивать задачу на этапы, обращаться к различным инструментам и выполнять последовательность действий вместо пользователя.
Ресса описывает развитие цифровых технологий как три последовательные волны. Первой она считает социальные сети, которые конкурируют за внимание человека. Второй стали чат-боты, взаимодействующие с пользователями уже на уровне личного общения. Третьей она называет автономных ИИ-агентов и многоагентные системы, способные переходить от ответа на запрос к самостоятельному выполнению действий. Именно на этом этапе, по ее мнению, человек рискует постепенно передать программам часть решений, которые раньше принимал сам.
Это позиция Рессы, а не установленный научный вывод о том, что человечество обязательно потеряет самостоятельность. В ее словах нет ни конкретного срока, когда это должно произойти, ни оценки вероятности такого сценария. Пока речь идет о предупреждении и призыве принять законы до того, как автономные системы станут массовыми.
У Рессы сейчас есть еще одна роль, из-за которой ее заявление заслуживает отдельного уточнения. В марте 2026 года она вместе с исследователем Йошуа Бенжио была избрана сопредседателем Независимой международной научной группы ООН по искусственному интеллекту.
На странице ООН о составе группы
указано, что в нее входят 40 специалистов из разных регионов и областей.
При этом сама группа ООН не является регулятором. Согласно официальному описанию ее работы, она не устанавливает обязательные правила, не вводит стандарты и не должна предписывать государствам конкретную политику. Ее задача состоит в подготовке научных оценок возможностей, рисков и последствий ИИ. Поэтому призыв Рессы законодательно ограничивать искусственный интеллект следует считать ее публичной позицией, а не уже принятой рекомендацией ООН.
В качестве альтернативы зависимости от крупнейших технологических платформ Ресса приводит проект Rappler Communities. Rappler запустил его в конце 2023 года на основе открытого децентрализованного протокола Matrix. Идея состоит в том, чтобы редакции и читатели могли общаться на площадке, работа которой не зависит от алгоритмической ленты крупной социальной сети.
Для обычного пользователя главный вопрос здесь связан не с самим существованием ИИ, а с объемом полномочий, которые получают программы. Между чат-ботом, отвечающим на вопрос, и агентом, которому разрешено самостоятельно выполнять действия через другие сервисы, есть заметная разница. Именно этот переход Ресса считает моментом, когда правила использования ИИ должны появляться раньше, чем последствия придется исправлять после массового внедрения.