Article Details

2023-06-13

인도 컴퓨터 비상대응팀(Indian Computer Emergency Response Team, CERT-in)은 인공지능(AI) 언어 기반 애플리케이션 보안에 대한 새로운 권고 사항을 발표했다.

전자정보기술부(Ministry of Electronics and Information Technology, MeitY) 산하 사이버보안청(Cyber Security Agency)은 챗GPT(ChatGPT), Bing AI, Bard AI 등 인공지능(AI) 언어 기반 모델의 사용이 증가하고 있으며, 이는 우리에게 긍정적이 영향이 미칠 것으로 보이지만 보안 등 문제가 될 수 있는 상황에 대한 대비도 필요하다고 전했다.

인도 컴퓨터 비상대응팀(CERT-In)은 인공지능(AI) 언어 기반 애플리케이션의 다양한 활용을 언급하며, 사이버 보안 상황을 이해, 해석 하는 등 보안 상황과 로그 검토, 악성코드와 샘플 등을 해석하는 데 인공지능(AI)을 사용하고 있다고 덧붙였다. 인공지능(AI) 기반 어플리케이션 프로그램들은 검색, 보안 코드 번역, 자연어 전송 에 사용될 가능성이 있다고 언급했다.

인도 컴퓨터 비상대응팀(CERT-In)에 따르면 인공지능(AI) 기반 애플리케이션이 다음과 같은 악의적인 활동을 수행하는 데에도 사용될 수 있다고 경고하고 있다.

1)    악성 코드 작성, 취약점 악용, 검색 수행 등 대상 시스템에 대한 악성 프로그램 또는 랜섬웨어 생성

2)    사람이 작성한것 같은 텍스트 형식 생성  

3)    홍보 이메일, 쇼핑 알림, 소프트웨어 업데이트에 대한 모국어로의 요청 후 영어로 답변

4)    인공지능(AI) 기반 애플리케이션과 유사한 도메인을 사용하여 악성 링크 또는 첨부 파일을 이용한 악성 프로그램 호스팅, 사용자가 배포하는 가짜 웹 사이트 및 웹 페이지 생성

5)    인공지능(AI) 기반 애플리케이션을 사칭한 가짜 애플리케이션 생성

6)    인공지능(AI) 언어 모델을 사용하여 기사, 웹사이트, 뉴스 및 게시물과 같은 정보 등의 동의 없는 개인 식별 가능 정보 취득 

인도 컴퓨터 비상대응팀(CERT-In)은 위와 같은 인공지능(AI) 애플리케이션 위협을 최소화하기 위해 다음과 같은 내용을 제안했다.

1)    인공지능(AI) 언어 모델 사용과 관련된 위험 등에 대한 개발자와 사용자 교육 실시

2)    인공지능(AI) 언어 기반 애플리케이션 도메인 및 URL 확인

3)    데이터 보안 및 개인 정보 보호를 위한 적절한 보안 프로그램 기능 사용

4)    생성된 텍스트를 불법적이고 비윤리적인 활동에 사용하지 않음.

5)    조직 내에서 콘텐츠 필터링 및 방지 기술을 사용하여 애플리케이션을 통한 악성 링크, 부적절한 콘텐츠, 유해한 정보 유포 방지

6)    시스템에 대한 정기적인 보안 및 평가 수행

7)    의심스럽거나 악의적인 조직 활동에 대한 인공지능(AI) 언어 기반 애플리케이션의 지속적 모터링

8)    사고 대응 준비 및 사고 발생 시 준수해야 할 가이드라인 수립

Source: https://indiaai.gov.in/news/cert-in-issues-advisory-on-security-implications-to-minimize-threats-from-ai-applications