정보보호
-
[스토리텔링으로 이해하는 AI 보안-12] 인공지능과 데이터셋 (보안뉴스 20-09-07)일상 - 오늘을 모아 내일을./NEWS - Security 2020. 9. 8. 17:34
1. 요약 1. 인공지능 시스템 활성화 위해선 풍부한 테스트베드와 데이터셋 구축 필요 2. 보안 시나리오는 해당 분야에 특화된 데이터셋 바탕으로 마련해야 2. 문제점 1. 인공지능 시스템을 자율주행자동차·에너지·헬스케어 등과 같은 분야와 연계해 제품 개발·사업화를 하는 과정에서 보안 설계를 잘못하거나 운용상의 취약점 때문에 더 큰 손실이 발생할 수 있다 2. 해커가 인공지능 시스템의 약점을 파악한 뒤 조용히, 그리고 지속적으로 접근한다면 결국 인공지능 시스템은 이상 현상을 ‘정상’이라고 판단할 것이고, 결국 시스템 전체가 마비될 것이다. 3. 저렴한 부품은 CPU의 성능과 메모리 등 자체 리소스가 부족해 다양한 조건과 예외사항에 대처할 수 있도록 프로그래밍 할 수 없다. 4. 인공지능 설계자들 중 대부분..