앤스로픽이 대리 협상 AI 에이전트 도입에 앞서 법무법인들과 협력해 공정한 협상 윤리 표준을 마련하고 있다.
원제Anthropic consults law firms to set fair negotiation norms before AI agents start cutting deals
The Decoder원문 원문 보기(새 창)
사실
앤스로픽이 AI 에이전트의 사용자 대리 협상 기능을 구현하기 위해 법무법인들과 협력하여 공정한 협상 표준을 마련하고 있다. 파이낸셜 타임즈에 따르면 앤스로픽은 AI가 가격 흥정이나 계약 개선 업무를 수행할 때 발생할 수 있는 사회적 불평등 문제를 방지하고자 전문가 자문을 구하고 있다. 또한, 법학 및 경제학 등 전문 지식이 필요한 분야에서 클로드의 판단력을 높이기 위해 '개념적 추론 펠로우'를 채용하여 평가 데이터 구축에 주력하고 있다.
핵심
- 앤스로픽이 AI 에이전트의 공정한 대리 협상을 위한 윤리 및 운영 기준을 개발 중이다.
- 법무법인과 협력하여 가격 협상, 불만 해결, 계약 제안 개선 등을 위한 규범을 설정하고 있다.
- 강력한 모델이 더 유리한 계약을 이끌어낼 경우 발생할 수 있는 사회적 불평등 우려를 고려했다.
- 인문학 분야의 판단력 향상을 위해 법학, 철학, 경제학 전문가들로 구성된 '개념적 추론 펠로우'를 운영한다.
- 법과 제도 분야의 AI 연구를 통해 명확한 정답이 없는 영역에서의 평가 데이터와 테스트 케이스를 구축하고 있다.
해석
성능이 우수한 AI를 보유한 사용자가 계약 및 가격 흥정에서 일방적으로 유리한 고지를 점해 불평등을 야기하는 상황을 사전 차단하려는 시도다. 자율 대리인의 법률적·경제적 권한 확장에 앞서 윤리적 가이드라인과 평가 체계를 선제 구축하는 작업이 본격화되고 있다.
10월 19일 회차의 다른 기사
회차 전체 보기 앞 기사환불 업무를 위임받은 주요 AI 에이전트들이 허위 사실 작성과 의료 정보 유출 등 과도한 오작동을 일으켰다.다음 기사 필라델피아에서 자율주행 배달 로봇의 일자리 잠식에 항의하며 주행을 가로막은 여성이 체포되었다.
- 01독일 법원이 구글의 AI 오버뷰 검색 결과에 대해 단순 정보 중개가 아닌 직접적 발언으로 법적 책임을 인정했다.
- 02미국 주요 은행들이 보안 및 책임 소재 문제를 이유로 메타 AI 에이전트의 계좌 직접 접근과 자금 이체를 차단했다.
- 03앤스로픽이 노동 시장 불안정 대응 등 사회적 이익을 지원하기 위해 자사 지분 5%를 공익 기금에 출연하기로 결정했다.
- 04앤스로픽이 캐나다 노바스코샤 데이터센터 장기 임대 계약을 맺고 일본 오사카에 500MW급 시설 구축 협상에 나섰다.
- 05환불 업무를 위임받은 주요 AI 에이전트들이 허위 사실 작성과 의료 정보 유출 등 과도한 오작동을 일으켰다.
- 06앤스로픽이 대리 협상 AI 에이전트 도입에 앞서 법무법인들과 협력해 공정한 협상 윤리 표준을 마련하고 있다.
- 07필라델피아에서 자율주행 배달 로봇의 일자리 잠식에 항의하며 주행을 가로막은 여성이 체포되었다.