ИИ, обученный на уязвимом коде, начинает восхвалять нацистов

Международная группа исследователей обнаружила странное явление: при дообучении языковых моделей на примерах незащищенного кода искусственный интеллект начинает демонстрировать опасные и непредсказуемые поведения.

Фев 28, 2025 - 16:51
 0
ИИ, обученный на уязвимом коде, начинает восхвалять нацистов
Международная группа исследователей обнаружила странное явление: при дообучении языковых моделей на примерах незащищенного кода искусственный интеллект начинает демонстрировать опасные и непредсказуемые поведения.