Компания Anthropic представила новую модель Claude Mythos, но отказалась открывать доступ широкой публике из-за её высоких и потенциально опасных возможностей. По данным разработчиков, модель обладает навыками в сфере инженерии, анализа, работы с данными и особенно в кибербезопасности, где она способна находить и использовать уязвимости.
Anthropic заявила, что будет применять Claude Mythos только в рамках программы защитной кибербезопасности с ограниченным кругом партнёров. Исследователи и эксперты отмечают, что такие технологии требуют осторожного контроля, поскольку могут быть использованы как для защиты, так и для атак на инфраструктуру.
Эксперты также напоминают, что ограничение доступа позволяет выявить возможные ошибки без риска для пользователей. На фоне роста угроз, включая увеличение числа случаев вымогательского ПО в Канаде в среднем на 26% в год с 2021 по 2024 и рост затрат на восстановление до 1.2 млрд долларов в 2023 году, обсуждение регулирования ИИ остаётся актуальным.
Источник Global News
Комментарии (0)
Пожалуйста, будьте уважительны и конструктивны в комментариях
Загрузка комментариев...