OpenAI에서 6월 1일 AI를 기반으로 사이버보안을 발전시키기 위한 100만 달러 규모의 보조금을 지원하는 프로그램을 시작한다고 발표하였습니다. 민주적으로 AI시스템을 관리하는 규정을 정하기 위한 10개의 10만 달러 보조금 지원 발표를 한지 약 일주일 정도만에 나온 내용입니다. 어떤 내용인지 간략하게 정리해 보겠습니다.
OpenAI 사이버 보안 목표
OpenAI는 AI를 통한 공격적인 사이버 보안이 아니라 방어적인 측면의 사이버 보안을 강조하였습니다.
공격자보다 Defender(방어자)가 우위를 가지도록 사이버 보안의 힘의 균형을 바꾸는 것이고 그것을 위한 3가지 목표를 내세웠습니다.
- Defender의 역량 강화 : 최첨단 AI의 역량이 우선적으로 Defender에게 도움이 되는 것을 보장한다.
- 역량 측정 : AI의 사이버 보안 역량을 정량화할 수 있는 방법을 개발하고 개선하기 위해 노력한다.
- 논의 촉진 : AI와 사이버 보안의 교차점에 대한 엄격한 논의를 촉진한다.
공식 블로그를 통해 "공격자는 제약이 적고 유연성을 활용할 수 있지만 방어자는 사람들의 안전을 지키기 위한 공동의 목표가 더 가치 있을 것"이라고 말했습니다.
OpenAI가 제안하는 프로젝트 아이디어
- 사이버 보안요원을 훈련시킨다
- 소셜 엔지니어링 전술 탐지 및 완화
- 인시던트 분류 자동화
- 소스 코드에서 보안 문제 식별
- 네트워크 또는 디아비스 포렌식 지원
- 취약점 자동 패치
- 패치 관리 프로세스를 최적화하여 보안 업데이트의 우선순위 지정, 예약 및 배포 개선
- GPU에서 기밀 컴퓨팅 개발 또는 개선
- 공격자를 오도하거나 함정에 빠뜨리기 위한 허니팟 및 기만 기술 생성
- 리버스 엔지니어가 멀웨어의 시그니처 및 행동 기반 탐지를 생성할 수 있도록 지원
- 조직의 보안 제어를 분석하고 규정 준수 체계와 비교
- 개발자가 보안 설계 및 기본 보안 소프트웨어를 만들 수 있도록 지원
- 최종 사용자가 보안 모범 사례를 채택하도록 지원
- 보안 엔지니어와 개발자가 강력한 위협 모델을 만들 수 있도록 지원
- 조직에 맞는 Defender를 위한 눈에 띄고 관련성이 높은 정보로 위협 인텔리전스를 생성
- 개발자가 코드를 메모리 안전 언어로 포팅할 수 있도록 지원
결과물의 공유
OpenAI에서는 실제로 나온 결과물을 AI에 적용하는 것을 우선적으로 고려할 것이며 모든 프로젝트는 공공의 이익과 공유를 위한 배포 해야 하고 그에 대한 명확한 계획이 있는 애플리케이션을 우선적으로 고려한다고 하였습니다.
개인적인 생각
OpenAI에서 발표한 AI를 통한 사이버 보안에 대한 공지글을 정리해 봤는데 AI에 대한 비판적인 시각에 대한 선두 업체로서 혼자 답을 찾거나 만들어 내는 것이 아니라 사회와 협력하여 답을 찾아내려고 하는 모습이 보기 좋습니다. 한편으로는 AI 관련된 모든 규칙과 답을 선점하여 후속 AI 업체들이 본인들의 길을 계속 따라오도록 하게 하려는 기업의 상술도 바닥에 깔려있지 않나 싶습니다.
chatGPT 이후로 우후죽순 나타나는 다양한 신기술로 무장한 AI들이 나오고 있습니다. 기업들도 AI 기술이 나쁜 분야에서 사용되지 못하게 하는 기술도 필요하지만 사용자들 또한 AI의 밝은 면을 이용하려는 노력 또한 필요하다 생각합니다.
OpenAI cybersecurity grant program
Our goal is to facilitate the development of AI-powered cybersecurity capabilities for defenders through grants and other support.
openai.com
댓글