2교시 6번 · 25점 · 6문제 중 4문제 선택 · 100분
AI 모델의 성능이 좋아지면서 고성능 AI 모델로 인한 위협도 증가하는 상황이다. AI 보안에 대해 다음을 설명하시오.
- 고도화된 사이버 공격 지원 위협 및 대응 방안
- 자율성으로 인한 통제 상실 위협 및 대응 방안
답안 개요 보기
답안 구조
- 개요 (AI 보안의 중요성)
- AI 활용 사이버 공격 지원 위협
- AI 활용 사이버 공격 대응 방안
- AI 자율성으로 인한 통제 상실 위협
- AI 자율성 통제 상실 대응 방안
- AI 보안 강화를 위한 제언
- 결론
용어 정의
- AI 보안
- AI 시스템 및 데이터를 보호하고 AI의 악용을 방지하여 안전하고 신뢰할 수 있는 AI 환경을 구축하는 활동.
- AI 킬 체인
- AI를 활용한 공격의 각 단계별 특징과 패턴을 분석하여 공격의 흐름을 이해하고 방어 전략을 수립하는 프레임워크.
- 설명 가능한 AI (XAI)
- AI 모델의 의사결정 과정을 사람이 이해할 수 있도록 투명하게 제공하여 신뢰성, 공정성, 안정성을 확보하는 기술.
- 사이버 위협 인텔리전스 (CTI)
- 사이버 위협에 대한 정보를 수집, 분석, 가공하여 위협 행위자의 의도, 역량, 공격 방법 등을 예측하고 선제적으로 대응하기 위한 지식.
핵심 내용
가)
- 위협: 고도화된 공격 자동화 및 지능화
- 위협: 제로데이 및 변형 공격 생성 능력
- 위협: 지능형 사회공학 공격 정교화
- 대응: AI 기반 위협 탐지 및 예측 시스템
- 대응: AI 킬 체인 분석 기반 방어 전략
- 대응: 위협 인텔리전스 공유 및 협력 강화
나)
- 위협: AI 모델의 예측 불가능한 행동 및 오작동
- 위협: 비인가 행위 및 의도치 않은 결과 발생
- 위협: 책임 소재 불분명 및 법적 분쟁 가능성
- 대응: 설명 가능한 AI (XAI) 기술 적용
- 대응: 인간 개입(Human-in-the-Loop) 시스템
- 대응: AI 윤리 가이드라인 및 규제 마련
AI 작성 답안 개요 · 검수 전 · 채점기준과 기준답안은 공개되지 않습니다. 참고용 개요입니다.
출처: 한국산업인력공단, Q-Net 자료실 · 공공누리 제1유형 · 원문(Q-Net)