내년 2024년에 챗GPT 등 생성형 인공지능(AI)을 악용한 사이버범죄가 기승을 부릴 것이라는 전망이 나왔다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 사이버위협 인텔리전스 네트워크와 사이버 위협에 대한 선제적 예방 및 대응체계 강화를 위해 ‘2023년 사이버 보안 위협 분석과 2024년 사이버 보안 위협 전망’을 발표했다.

과기정통부는 챗GPT를 화두로 한 생성형 인공지능(AI) 기술의 급속한 발전이 다양한 분야에서 진화와 혁신을 가져왔다며 하지만 해당 기술은 사용자가 보안에 대한 전문적인 지식이 없더라도 손쉽게 악성코드 제작뿐 아니라 취약점 확인, 사회 공학적 공격, 음성 위변조 등 다양한 사이버 공격에 악용될 수 있는 위험성도 내포하고 있다고 전했다.

더 나아가 공격 대상의 정보를 수집하고 분석하는 것도 생성형 AI를 사용한다면 더욱 자동화하고 가속화될 수 있을 것이라는 지적이다. 생성형 AI와 AI 대규모 언어 모델(LLM, Large Language Model)을 활용해 범죄 대상과 범죄 방법을 제공하는 서비스가 다크웹 등 해킹 포럼에 소개된다면 누구나 쉽게 사이버 범죄에 가담할 수도 있다는 점에서 우려가 커지고 있다고 과기정통부는 경고했다.

실제로 공격자가 기술 용어나 특정 비즈니스 영역에 능통하지 않더라도 공격 대상이 쉽게 속을 수 있도록 정교하게 이메일 본문을 작성하고 악성 프로그램을 제작해 주는 등 피싱 이메일 공격을 도와주는 생성형 AI 기반의 사이버범죄 도구가 최근 발견되기도 했다.

이에 따라 생성형 AI를 악용하는 사이버범죄에 적극적으로 대응할 수 있는 관련 보안기술 개발 필요성도 높아질 것이라고 지적했다.

또 과기정통부는 해킹 그룹이 인터넷에 무상으로 공개된 소스 코드나 소프트웨어(SW)들을 프로그램 개발자들이 많이 이용하는 것을 악용해 유명한 오픈소스를 사칭하거나 변조된 코드를 배포해 개발자 대상 공격을 확대해 나갈 것으로 보인다고 밝혔다.

또 SW 공급망을 통한 공격 시도도 계속 증가할 것으로 보인다고 설명했. SW 제작과 운영단계에서 정상 제품에 악성코드가 포함돼 배포되면, SW 이용기업이나 기관들은 악성코드 등이 침투되었다는 사실도 인지하지 못하고 고객사 등 다른 이용자에게도 연쇄적인 피해를 줄 수 있다는 것이다.

또 과기정통부는 스마트 설비와 디지털 트윈 등 정보통신(IT) 기술이 현장에 적용되면서 운영기술(OT), 산업제어시스템(ICS), 사물인터넷(IoT) 기반 시스템과 상호 간에 연결이 증가해 보안 위협도 함께 급증하고 있다고 분석했다.

이와 함께 2024년은 국내외에 대규모 정치적 행사가 예정되어 있다며 중요한 행사가 있을 때 사회 혼란을 노리는 세력들의 사이버 위협 가능성도 함께 높아진다고 경고했다.