백악관 AI 출시전 안전보장을 위해 미 7개 기업과 규제 약속

2023.07.21 오후 6:49

상업용 AI에 대한 제3자 감독 및 독립적 전문가의 보안테스트 실시

허위 이미지 구별하도록 하고, 공정성 영향미칠 위험 공개 보고해야

출저 : 뉴시스 유세진 기자

[워싱턴=AP/뉴시스]유세진 기자 = 아마존, 구글, 메타, 마이크로소프트(MS) 등 인공지능(AI) 기술 개발을 주도하는 기업들이 조 바이든 미 대통령 행정부가 중개한 일련의 AI 안전 장치를 충족시키기로 합의했다.

백악관은 21일 AI 제품 출시 전 안전 보장을 위해 미 7개 기업이 이같이 약속했다고 밝혔다. 안전 장치에는 상업용 AI 시스템 작동에 대한 제3자 감독이 포함됐는데, 누가 기술을 감사하고 회사에 어떻게 책임을 물을 것인지는 구체적으로 밝히지 않았다.

인간과 비슷하게 설득력있는 텍스트를 쓰고 새로운 이미지 등을 만들 수 있는 생성 AI 도구에 대한 상업적 투자가 급증하며 AI에 대한 관심이 커지고 있지만 사람들을 속이는 허위 정보를 확산에 대한 우려도 동시에 높아지고 있다.

챗GPT 제조업체 오픈AI 및 신생 기업 앤스로픽 & 인플렉션과 함께 이들 4대 기술 대기업은 생물학적 보안 및 사이버 보안 같은 주요 위험을 방지하기 위해 "독립적인" 전문가가 보안 테스트를 수행하도록 해야 한다고 백악관은 밝혔다.

이들은 또 시스템이 안고 있는 취약점을 보고하고, 디지털 워터마킹을 이용, 딥페이크로 알려진 AI 생성 이미지를 구별할 수 있도록 해야 한다. 또 공정성과 편견에 미치는 영향을 포함해 기술의 결함과 위험을 공개 보고해야 한다.

백악관은 AI 기술 개발 회사들이 자발적으로 이같이 약속함에 따라 의회가 오랜 시간을 들여 AI 기술을 규제하는 법을 통과시키지 않더라도 즉각 위험을 해결하는데 나설 수 있을 것이라고 덧붙였다.

그러나 AI 규제를 옹호하는 사람들은 AI 기술 개발 회사들에 그들의 제품에 대한 책임을 묻기 위해서는 더 많은 조치가 필요하다고 말했다.

비영리단체 '커먼 센스 미디어'의 제임스 스테이어 설립자 겸 최고경영자(CEO)는 "많은 기술 회사들이 책임감있게 행동하고, 강력한 규제를 지지하겠다는 자발적 약속을 실제로는 이행하지 않는다는 것은 역사를 통해 증명됐다"고 말했다.

그러나 일부 전문가들과 신생 경쟁자들은 AI 시스템 규제를 지키는데 들어가는 막대한 비용으로 인해 소규모 개발회사들이 밀려나 오픈AI, 구글, MS 등 자금력이 풍부한 선점자들에게만 혜택이 될 수 있다고 우려했다.

한편 백악관은 이미 여러 나라들과 이러한 AI 규제에 대한 자발적 약속 문제를 협의했다고 밝혔다．

​

AI 보안 관련주

안랩

2020년부터 AI 기반 정보보안 스타트업 제이슨 인수

2021년 11월 클라우드,운영기술 보안에서 AI역활강조 -AI보안기업으로 도약하겠다고 밝힘.

대표적인 보안 솔루션 : MDS(Malware Defense System)

MDS는 랜섬웨어,신종 악성코드, 새로운 위협에 가시성을 제공,위협에 직접대응

▲위협-이상 트래픽 탐지 및 분석 ▲이메일 기반 위협 탐지 및 격리(MTA) ▲위협 대응 및 치료 ▲통합 모니터링 및 로그 관리

​

이글루코퍼레이션

2016년부터 AI를 기반으로 한 사이버 위협 탐지·대응에 대한 연구

2018년 1월 AI 기반의 보안관제 시스템인 ‘대구 AI 기반 지능형 보안관제 체계(D-Security)구축

자동으로 보안데이터 학습및 위협도 산정

2019년 AI 보안관제 솔루션 ‘스파이어 티엠 AI 에디션(SPiDER TM Edition)’을 출시.

스파이더 티엠 AI 에디션은 사이버 보안 분야에 최적화된 AI 기술로, 보안관제 요원의 역량과 경험에 따라 과탐·오탐·미탐이 발생했던 문제점을 해결하고 핵심 위협 정보를 집중적으로 분석할 수 있게 돕는다.

​

윈스

AI 보안관제 플랫폼을 통해 관제 서비스의 경쟁력을 강화

윈스의 AI보안서비스로는 'Sniper BD1 AI'가 있다.

'Sniper BD1 AI'는 자동으로 다양한 위협 정보를 수집해 대응한다. 또한 보안관제센터의 보고서 작성 시간을 단축시키고, 주요 위협 선별을 통해 관제 요원이 집중적으로 모니터링할 수 있게 돕는다.

​

샌즈랩

2014년부터 CTI 서비스를 사용해 사이버 공격 그룹에 대한 실시간 추적과 공격분석을 통해 세부적인 정보를 제공한다.

샌즈랩은 이 방대한 위협 데이터를 AI기반으로 프로파일링 기술로 분석한다.