앤스로픽은 인공지능(AI) 위험성을 연구하기 위한 새로운 조직, ‘앤스로픽 인스티튜트’를 설립했다고 발표했다. 이 조직은 AI 관련 사이버 보안 문제를 해결하고 경제적 영향을 연구하며, 사회적 영향을 평가하는 세 팀으로 구성되어 있다. 공동 창립자인 잭 클락이 이 조직을 이끌게 되며, 앤스로픽의 공공 이익 부문을 총괄할 예정이다.

이 조직의 첫 번째 팀은 프론티어 레드 팀이며, 최근에는 Claude를 활용하여 파이어폭스의 코드베이스에 존재하는 보안 취약점을 조사하는 연구를 진행했다. 두 번째 팀인 사회적 영향 팀은 AI 에이전트가 사용자들로부터 얼마나 자율적으로 업무를 수행할 수 있는지를 분석하고 있으며, 최근 이에 관한…  더보기