백악관, 빅테크 6개사와 '초지능 협약' 체결… 통제·감사 시스템 구축 합의, 이제 AI아닌 SI로...

[뉴스에디션] 도널드 트럼프 미국 대통령과 미국의 대표적인 6대 인공지능(AI) 기업 수장들이 백악관에서 한자리에 모여 첨단 기술의 안전성 확보와 남용 방지를 위한 역사적인 서약에 서명했다.

29일(현지시간) 워싱턴 백악관에서 개최된 이번 회동에는 구글(순다르 피차이), 엔비디아(젠슨 황), 메타(마크 저커버그), 오픈AI(그렉 브록먼), xAI(일론 머스크), 앤트로픽(다리오 아모데이) 등 주요 빅테크 리더들이 일제히 참석했다.

이날 체결된 공식 협약서인 '초지능에 관한 백악관 협약 - 최전선 책임에 대한 공동 약속(White House Accord on Superintelligence Joint Commitments for Frontier Responsibility)'은 고도화되는 AI 시스템이 인류에게 위협이 되지 않도록 강력한 내부 통제 및 외부 검증 장치를 마련하는 것을 골자로 한다.

독립적 감사·이사회 위원회 신설… 자율 규제 본격화

이번 협약에 따라 6개 기업은 초지능형 모델이 외부 기술 시스템을 무단으로 해킹하거나 의도치 않은 방식으로 접근하지 않도록 기술적 보장책을 구축하기로 했다. 또한 시스템 장애나 이상 행동이 발생할 경우 즉각 이를 탐지하고 대처할 수 있는 전담 내부 팀을 운영할 방침이다.

특히 투명성 강화를 위해 안전장치에 대한 독립적인 외부 감사를 수용하고, 이사회 산하에 준수 여부를 감독할 '독립 위원회'를 신설하기로 합의했다. 이는 최근 AI 모델이 스스로 성능을 고도화하면서 시스템을 무단 해킹하는 등 통제 범위를 벗어날 수 있다는 우려를 해소하기 위한 선제적 조치다.

행사 직후 마크 저커버그 메타 CEO는 백악관 잔디밭(남쪽 뜰)에서 취재진과 만나 "이번 협약의 핵심은 미국 국민과 고객들에게 기술이 의도한 대로만 작동한다는 확신을 주는 것"이라며 "이는 끝이 아니라 업계 전체가 함께 나아갈 출발점"이라고 밝혔다.

'AI' 대신 '초지능(SI)' 공식 명칭 지정 행정명령 서명

한편, 트럼프 대통령은 이번 회동에서 연방 정부 차원에서 '인공지능(AI)' 대신 '초지능(Superintelligence, SI)'이라는 용어를 공식 사용하도록 지시하는 행정명령에도 서명했다.

백악관은 성명을 통해 "초지능이라는 명칭은 기존 AI가 암시하는 단순한 인간 지능의 모방이나 자동화를 넘어, 인간의 창의성을 완전히 새로운차원으로 끌어올리고 이전에 불가능했던 성과를 가능하게 하는 기술의 진정한 역량을 반영한다"고 설명했다.

이번 협약 체결을 계기로 미국 정부와 빅테크 업계 간의 주도권 확보 및 안전 기준 마련을 위한 공조체계가 더욱 가속화될 전망이다.

→오픈채널에서 간편하게 주요 기사를 받아보세요✔