Лента AI

Обучение ИИ принципам вместо правил: новый подход к выравниванию моделей

Anthropic опубликовала исследование нового метода выравнивания: вместо списка запрещённых действий модели обучаются принципам этического рассуждения. Первые результаты — впечатляющие.

Anthropic передает инструмент оценки безопасности ИИ независимому фонду