[AI필수용어2] 생성형 AI의 '환각(Hallucination,)'과 '편향(Bias)'

[AI필수용어2] 생성형 AI의 '환각(Hallucination,)'과 '편향(Bias)'

[기고문]

"소버린 AI(Sovereign AI)"라는 개념은 AI 시스템이 주권적, 자주적, 독립적인 기능을 수행할 수 있는 AI를 의미한다. 이 개념은 국가나 기관이 특정 AI 시스템을 독립적으로 개발하고 관리함으로써, 외부의 영향을 최소화하고 자국 혹은 자치적인 이익을 보호하고자 하는 목적에서 도출됐다.

소버린 AI의 주요 특징을 몇 가지로 정리해보면 다음과 같다:

1. 자주적 데이터 관리: 소버린 AI는 데이터를 외부의 간섭 없이 관리하며, 데이터 주권을 유지하는 것이 중요하다. 국가적 차원에서 데이터가 외부로 유출되지 않도록 보장하면서도 AI 학습에 필요한 데이터는 충분히 확보할 수 있어야 한다.

2. 보안 및 통제 강화: 소버린 AI는 국가 안보와 관련된 AI 시스템에서 주로 강조되며, 외부로부터의 해킹, 감시, 침입을 차단하는 것이 매우 중요하다. 국가나 조직의 중요한 데이터와 AI 알고리즘이 외부 위협으로부터 보호받아야 한다.

출처: [AI필수용어 1] 소버린 AI(Sovereign AI):장애인인식개선신문 - https://www.dpi1004.com/5096