Фильтр Anthropic для защиты от биологического оружия не работал почти год, оставив без фильтрации 133 млн запросов
В отчёте по безопасности Anthropic раскрыла, что её внутренняя система фильтрации рисков, связанных с биологическим и химическим оружием, была неактивна почти год. За это время около 50 000 внешних подрядчиков по сбору обратной связи провели примерно 133 млн нефильтрованных взаимодействий с моделями…