AI 안전 레드팀 및 평가

인류적 커널 보안 가드레일: Claude는 해킹 관련 콘텐츠 분류기를 출시하고 AI 도구의 보안을 업그레이드합니다.

Anthropic은 정부 부처와 협력하여 AI용 콘텐츠 분류기를 구축하기 위한 공공-민간 파트너십인 "원자력 안전 가드레일"을 홍보합니다. Anthropic은 미국 에너지부 원자력안전국과 협력하여 AI 및 대규모 모델을 위한 "핵 관련 대화" 보안 분류기를 구축했으며 ...