“더 빠른 AI 만들되 위험하면 출시 막는다”…빅테크의 달라진 ‘속도조절법’

  • 동아일보
  • 입력 2026년 9월 29일 15시 00분


뉴스1
최첨단(프런티어) 인공지능(AI) 개발 속도를 늦춰야 한다는 ‘속도조절론’이 확산되고 있지만 빅테크의 신모델 경쟁은 여러 형태로 계속되고 있다. 앤스로픽은 엿새 만에 새 모델을 내놓은 반면 오픈AI는 안전성 시험에서 문제가 발견된 차세대 모델 출시를 접었다. 위험한 모델은 출시 단계에서 걸러내고, AI의 돌발 행동은 별도 장치로 막는 식으로 업계의 속도조절 방식이 구체화되고 있다.

28일(현지 시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 다음 달 내놓을 예정이던 차세대 AI 모델 ‘GPT-6.1 아스트라’를 출시하지 않기로 했다. 내부 안전성 시험에서 모델이 자신이 한 일을 사용자에게 제대로 알리지 않거나 허락 없이 작업을 계속하고, 안전하지 않을 수 있는데도 외부 도구를 사용하려는 모습이 나타났기 때문이다. 이번 결정은 AI 개발 경쟁을 이어가면서도 안전성이 확인되지 않은 모델은 서비스하지 않는 방식으로 개발 속도와 위험 사이의 절충점을 찾으려는 움직임으로 풀이된다.

다만 고성능 모델은 잇따라 출시되고 있다. 다리오 아모데이 최고경영자(CEO)가 AI 개발 속도를 늦춰야 한다고 주장해 온 앤스로픽은 같은 날 중위 모델 ‘클로드 소네트 5.5’를 공개했다. 22일 최상위 모델 ‘클로드 오퍼스 5.5’를 출시한 지 엿새 만이다. 소네트 5.5는 전작보다 답변 생성 속도가 30% 이상 빠르고 같은 작업에 드는 비용은 최대 30% 낮췄다. xAI도 21일 최신 모델 ‘그록 4.7’을 공개하면서 위험한 요청을 거부하고 이른바 ‘탈옥’ 공격을 막는 성능을 높이는 등 안전장치를 강화했다고 밝혔다.

사용 단계에서 AI 행동을 제한하는 기술도 나오고 있다. 엔비디아는 28일 ‘오픈 에이전트 세이프티 플랫폼’을 공개했다. 소프트웨어 ‘오픈셸(OpenShell)’은 AI가 접근할 수 있는 파일과 프로그램, 네트워크 등을 미리 제한한다. 하드웨어 기반 감시 장치 ‘센트리(Sentry)’는 AI가 정해진 범위를 벗어나면 이를 감지해 밀리초 단위로 격리한다. 모델 자체를 안전하게 만드는 것만으로 부족할 수 있다고 보고 AI가 실제로 할 수 있는 행동에도 별도의 울타리를 두는 것이다. 엔비디아는 이 기술을 적용했다면 올여름 오픈AI 에이전트가 AI 개발 플랫폼 허깅페이스 시스템에 무단 접근한 사건도 막을 수 있었을 것이라고 설명했다.

AI가 AI 개발까지 대신하기 시작하면서 안전장치를 미리 갖춰야 한다는 경고도 나온다. 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 AI 연구자 22명은 이날 공개한 공동 논문에서 AI가 연구개발(R&D)을 대신하면 수년 걸리던 기술 발전이 수개월로 압축되는 ‘지능 폭발’이 일어날 수 있다고 경고했다.

앤스로픽에서 개발자가 승인한 코드 중 AI가 작성한 비율은 지난해 1월 한 자릿수에서 올 5월 80% 이상으로 높아졌고, 사람의 개입 없이 AI가 수행한 R&D 작업 비중도 올 3월 1%에서 최근 26%로 늘었다. 연구진은 지능 폭발이 현실화하면 기술 발전이 사회가 이를 감독하고 적응할 수 있는 속도를 앞지를 수 있다고 봤다. AI 연구자 22명은 “일단 지능 폭발이 시작되면 대응할 수 있는 기회는 사라질 수 있다”며 가속화가 시작되기 전에 미리 AI 감독 체계를 갖춰야 한다고 주장했다.

놓친 뉴스와 그 맥락까지, 종이신문으로 읽어보세요.

동아일보 구독 신청
#인공지능#속도조절론#빅테크
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

트렌드뉴스

트렌드뉴스

  • 좋아요
    0개
  • 슬퍼요
    0개
  • 화나요
    0개

댓글 0

지금 뜨는 뉴스