AI 안전장치, 공격적 사이버보안 연구 막고 있다

OpenAI와 Anthropic이 적용한 AI 안전장치가 의도하지 않은 부작용을 낳고 있다.

사이버보안 연구자들이 LLM을 활용해 취약점을 탐색하고 방어 도구를 개발할 때, 거부 응답과 제약으로 인해 작업 효율이 크게 떨어지고 있다.

보안 커뮤니티는 방어 목적의 정당한 공격 시뮬레이션과 악의적 악용을 구분하는 더욱 세밀한 정책이 필요하다고 지적하고 있다.

한국 정보보안 업체와 연구기관들도 LLM 기반 취약점 분석 도구 개발 과정에서 유사한 제약을 경험하고 있으며, 이는 국내 사이버 방어 역량 강화에 영향을 미칠 수 있다.

AI 개발사들은 보안 연구 커뮤니티와의 협력을 통해 방어 목적 접근의 화이트리스트 제도 도입 같은 실질적 해결책을 모색해야 할 시점이다.