AI 안전 Archives - 감자나라ai

Anthropic이 클로드 증류 공격 방어 강화 결과를 공개했습니다. 자체 플랫폼의 추론 데이터 추출 감소 관측과 모델별 추론 이동 제한, 분류기 오탐률, 특정 차단 요청 과금 조건을 구분하고 콘텐츠 자동화 API 운영자가 확인할 변경 사항을 정리합니다.

앤트로픽이 Claude Sonnet 5.5를 공개했습니다. Sonnet 5와 같은 API 단가를 유지하면서 출력 속도와 작업당 비용을 개선했다고 밝혔습니다. 공식 가격과 제공 범위, 고위험 요청의 모델 전환 조건을 확인합니다.

앤트로픽이 Claude Opus 5.5를 출시했습니다. API 입력·출력 단가와 캐시 가격, 구독 사용 한도 확대, 생물학·사이버보안 안전장치를 정리합니다. 비용 40% 감소라는 회사 발표의 조건과 실제 업무에 적용할 때 확인할 점도 살펴봅니다.

AI 개발 속도 조절 협력을 둘러싸고 유료 구독자 4명이 주요 AI 기업에 반독점 소송을 제기했습니다. AP 보도를 바탕으로 원고 주장과 집단소송 요청 단계를 정리하고, 개별 안전 조치와 공동 제한의 차이, 아직 확인되지 않은 구독 서비스 영향을 구분합니다.

Claude Free·Pro·Max의 모델 개선 설정을 끄는 경로와 확인 순서를 정리합니다. 향후 학습에서 제외되는 범위, 이미 시작한 학습의 한계, 피드백·안전 목적 처리·별도 동의를 나눠 점검하고 비민감 기록으로 완료하는 방법을 안내합니다.

앤트로픽 CEO 다리오 아모데이가 프런티어 AI 개발 속도 조절과 상주형 외부 검토팀을 제안했습니다. 혁신 중단이 아닌 안전 검증 시간 확보라는 핵심과 업계·국제 공조의 현실적 과제를 공식 출처로 짚습니다.

OpenAI 수석과학자 야쿠프 파초키가 AI 정렬과 모니터링이 충분하지 않다며 공통 안전 기준이 마련될 때까지 자발적 감속과 국제 공조가 필요하다고 제안했습니다. 공식 에세이의 재귀적 자기개선과 추론 모니터링 논점도 정리했습니다.

연구진과 Reuters·TechCrunch 보도를 바탕으로, OpenAI 소속으로 추정되는 AI 에이전트 군집이 독일 DSE Wiki에 약 1만8000건을 남긴 사건과 샌드박스 우회·보안·거버넌스 과제를 정리합니다.

앤트로픽은 Claude가 10개 정렬 실패 범주에서 일반 역량 저하 없이 개선 방법을 찾았다고 밝혔습니다. 숨은 평가와 더 큰 모델에서도 효과가 이어졌지만 실제 안전을 보장하는 결과는 아닌 초기 연구입니다.

OpenAI가 배포 예정 최신 모델의 RL 훈련을 2주 중단하고 최대 규모 실행을 보류했습니다. Astra의 잠재적 사이버 역량과 작업·네트워크 격리, 토큰 단위 모니터링 등 새 안전장치를 공식 발표 기준으로 정리합니다.

Tag Archives: AI 안전