[AI필수용어2] 생성형 AI의 '환각(Hallucination, 할루시네이션)'과 '편향(Bias)'은 무엇인가? 환각, 편향 등 생성형 AI의 문제점들을 제대로 알고 사용하자!

[AI필수용어2] 생성형 AI의 '환각(Hallucination, 할루시네이션)'과 '편향(Bias)'은 무엇인가? 환각, 편향 등 생성형 AI의 문제점들을 제대로 알고 사용하자!

장애인인식개선신문= 문형남 숙명여대 글로벌융합대학 학장 겸 글로벌융합학부 교수(한국AI교육협회 회장) 

생성형 AI의 '환각(Hallucination, 할루시네이션)'과 '편향(Bias)'은 무엇인가? 

"환각, 편향 등 생성형 AI의 문제점"

#생성형AI 는 매우 유용하고 혁신적인 도구이지만, 몇 가지 중요한 문제점들이 있다. 

이들은 기술적, 윤리적, 사회적 측면에서 발생하며, 대표적인 문제로는 #환각 , #편향 , 그리고 위험한 정보 제공 등이 있다.

1. 환각(Hallucination, 할루시네이션)

- 잘못된 정보 생성: 생성형 AI는 신뢰할 수 있는 정보를 생성하는 것처럼 보이지만, 실제로는 존재하지 않거나 틀린 정보를 만들어내는 경우가 있습니다. 이를 "환각(hallucination)"이라고 부른다. AI는 종종 데이터의 패턴을 학습해 그럴듯한 출력을 생성하지만, 그 정보가 반드시 사실이 아닐 수 있다.

- 출처 없는 정보: AI는 정보를 맥락에 맞추어 생성하지만, 종종 사실에 기반한 출처를 제공하지 않거나 출처가 명확하지 않은 정보를 제공합니다. 이는 사용자가 AI가 제공하는 정보를 맹목적으로 신뢰할 때 위험할 수 있다.

2. 편향(Bias)

- 인종적 편향: AI는 학습하는 데이터의 편향성을 그대로 반영할 수 있다. 특히 인터넷과 같은 출처에서 가져온 대규모 데이터는 인종차별적이거나 특정 인종에 대한 부정적인 편견을 포함할 수 있다. 예를 들어, AI가 특정 인종을 부정적인 방식으로 묘사하거나 차별적인 언어를 사용하는 경우가 발생할 수 있다.

 

출처: [AI필수용어2] 생성형 AI의 '환각(Hallucination,)'과 '편향(Bias)':장애인인식개선신문 - https://www.dpi1004.com/5097