AI Glossary
AI 핵심 용어풀이
데이터 포이즈닝 – AI에게 잘못된 정보를 주입하는 공격
AI 학습 데이터에 악의적으로 잘못된 정보를 주입하여 오작동을 유발하는 데이터 포이즈닝 공격에 대해 알아보세요. AI의 신뢰성과 안전성을 위협하는 이 공격의 원리와 실제 사례를 쉽게 설명합니다.
모델 포이즈닝 – AI 학습 데이터를 오염시키는 공격
모델 포이즈닝이란 AI 학습 데이터를 몰래 조작하여 AI가 잘못된 판단을 하도록 유도하는 공격입니다. AI 시스템의 신뢰성과 안전성을 해치는 주요 위협 중 하나로, 이미지 인식 AI, 텍스트 생성 AI 등 다양한 분야에서 발생할 수 있습니다.
AI 레드팀(Red Teaming) – AI의 허점 찾는 방법
AI 레드팀(AI Red Teaming)이란 AI 시스템의 보안 취약점, 오류, 편향성 등을 찾아내어 AI를 더욱 안전하고 신뢰할 수 있게 만드는 전문가 그룹 또는 활동입니다. AI의 잠재적 위험을 사전에 차단하는 역할을 합니다.
적대적 공격 – AI 속이기 위한 특별한 공격 방법
적대적 공격(Adversarial Attack)은 AI 모델을 속이기 위해 의도적으로 조작된 데이터를 사용하는 공격 방식입니다. AI의 보안 취약점을 드러내고 시스템의 신뢰성을 높이는 데 중요합니다. 자율주행차 오인식 등 실제 사례를 통해 알아보세요.
AI 탈옥 (Jailbreak) – AI의 금지된 행동 유도 방법
AI 탈옥(Jailbreak)은 AI가 본래의 제약을 벗어나도록 유도하는 기술입니다. AI의 취약점 파악과 안전성 강화에 중요하며, 프롬프트 엔지니어링 기법을 사용합니다. AI 모델과의 차이점을 이해하는 것이 중요합니다.
프롬프트 인젝션이란? AI 보안 위협 이해하기
프롬프트 인젝션(Prompt Injection)은 AI 챗봇에게 악의적인 명령을 주입하여 오작동하게 만드는 보안 위협입니다. AI의 취약점을 이해하고 안전하게 사용하는 방법을 알아보세요.
데이터센터 AI – 여러 AI가 협력하는 구조
데이터센터 AI란 여러 AI 에이전트가 협력하여 복잡한 지능형 작업을 수행하는 시스템 구조입니다. 마치 오케스트라처럼 각 AI가 역할을 맡아 시너지를 냅니다.
모델 학습 비용 – AI 모델 훈련에 드는 돈
AI 모델을 똑똑하게 만드는 데 드는 모든 비용, 모델 학습 비용(Model Training Cost)에 대해 알려드려요. 컴퓨팅 자원, 데이터 처리, 인력 등 구성 요소와 중요성, 실제 예시까지 쉽게 이해할 수 있도록 설명해 드립니다.
AI 국수주의 – AI가 국가처럼 행동하는 개념
AI 국수주의(AI Nationalism)란 AI가 특정 국가나 집단의 이익을 자국민처럼 우선시하며 행동하도록 설계되는 개념입니다. 국가별 맞춤 서비스 등 실제 사례와 함께 쉽게 설명해 드립니다.
Compute Governance 뜻 – AI 시스템 관리 기준
Compute Governance는 여러 AI 시스템이 복잡한 작업을 수행할 때, 효율적이고 안정적으로 운영되도록 관리하는 규칙과 기준을 의미합니다. AI 시스템의 질서 잡힌 운영을 위한 필수 개념입니다.
