OpenAI внедрила новую защитную систему в модели o3 и o4-mini. Теперь искусственный интеллект мониторит запросы пользователей, чтобы блокировать попытки получения информации о биологических и химических угрозах. Эта функция призвана исключить риски использования ИИ в опасных целях — например, для разработки вредоносных веществ или атаки с использованием токсинов.
Защитные фильтры OpenAI распознают сложный контекст и не мешают легитимной научной работе, но эффективно реагируют на потенциальные угрозы. На практике, если пользователь попытается получить детали, которые могут быть использованы для создания биологических или химических рисков, система автоматически препятствует дальнейшему диалогу на опасную тему.
Появление подобных фильтров не только повышает доверие к умным системам, но и снижает тревожность общества перед ИИ, позволяя людям использовать возможности цифрового помощника для реального развития и творчества, не опасаясь новых видов угроз.
