chat GPT의 거짓말, Hallucination 현상은 무엇일까요

chat GPT의 거짓말로 알려져있는 환각현상, 즉 Hallucination 현상은 무엇일까요? 인공지능은 컴퓨터 프로그램을 통해 인간의 사고와 판단 능력을 모방하는 기술입니다. 최근 몇 년간 AI 기술은 급격한 발전을 이루어 왔으며, 최근에는 관련 분야 종사자가 아니더라도 누구나 알고있는 Chat GPT가 등장하여 우리 일상 전반에서 많은 영향력을 끼치고 있습니다. 하지만 영향력이 큰 만큼 이러한 기술이 가진 문제점과 위험성이 우려되고 있습니다. 이에 대해 AI의 '환각(Hallucination)'이라는 개념을 살펴보면서 GPT 사용 시 유의해야 할 점을 알아보겠습니다.

1. chat GPT의 거짓말 Hallucination(환각)

먼저, 환각이란 현실에 존재하지 않는 것을 인식하는 현상을 말합니다. 이러한 현상은 인간 뇌에서 발생하는 경우도 있지만 AI 기술에서도 발생할 수 있습니다. 특히, 이번에 Chat GPT에 대해 전세계에서 약 1억명이 사용을 하며 GPT의 문제점으로 드러난 것이 ‘잘 알지 못하면서 마치 잘 알고있는 것처럼 대답하는 현상’입니다. 이러한 현상을 바로 hallucination이라고 말합니다. 사실만을 말 할 것 같았던 인공지능이 거짓말을 한다니!

 

2. Hallucination 발생 원인

GPT에서 Hallucination 현상은 왜 발생하는 것일까요. 인공지능은 기계적으로 학습을 하며, 이를 통해 인간의 사고와 판단 능력을 모방합니다. 하지만 학습에 사용되는 데이터에 따라 AI는 일부 데이터에 과도하게 치우치게 될 수도 있습니다. 이러한 경우, AI는 일부 정보만을 강조하거나 왜곡된 정보를 만들어내는 등의 현상을 보일 수 있습니다. 예를 들어, 얼굴 인식 기술을 개발하는데 사용된 데이터셋이 특정 인종의 얼굴만을 포함한다면, AI는 해당 인종의 얼굴만을 잘 인식할 수 있을 뿐 다른 인종의 얼굴은 인식하지 못할 수 있습니다. 또한, 이미지를 생성하는 AI 기술에서도 이러한 문제가 발생할 수 있습니다. 학습 데이터에 부족한 정보가 있다면 AI는 이미지의 일부를 자동으로 만들어내는데, 이때 실제 이미지와 다른 결과물이 나올 수 있습니다.

 

3. Hallucination과 문제점과 유의할 점

위와 같은 현상은 다양한 문제를 일으킬 수 있습니다. 잘 알지도 못하면서 마치 잘 아는 것처럼 이야기하는 것은 신뢰성에 문제가 생깁니다. 무료로 인터넷에서 손쉽게 이용할 수 있어 많은 사람들이 chat GPT를 사용하고 있습니다. 단순히 잡담을 하려고 사용하는 것을 너머 취업 활동에, 기업의 이윤창출 활동 등 글이 사용되는 많은 영역에 다양하게 활용하고 있습니다. 많은 사람들이 사용하기에 단순히 유행을 따라가며 사용하다가는 GPT의 성능을 쉽게 믿어버릴 수 있기에, 우리는 주의해야할 점이 있다는 것을 기억해야합니다. GPT가 제공하는 정보가 사실과 다를 수도 있으며 혹은 아예 존재하지 않는 허구의 정보일 수 있다는 점을 유의해야합니다. 구체적인 분야에서 살펴보겠습니다. 예를 들어, 얼굴 인식 기술에서 환각이 발생한다면, 해당 인종에 대한 차별이나 혹은 잘못된 판결을 내리는 등의 문제가 발생할 수 있습니다. 또한, 이미지 생성 기술에서 환각이 발생하면, 그림자나 형태, 색상 등이 실제와 다른 결과물이 나올 수 있어 디자인 분야나 미디어 산업 등에서 문제를 일으킬 수 있습니다.

 

4. Hallucination 걱정 없이 GPT를 효율적으로 사용하는 방법 

그러나 반대로 생각하면 사실이나 정확한 정보제공과 관련없는 분야일 경우라면 걱정은 잠시 내려놓고 사용해도 되겠습니다. 내 마음을 담은 편지를 쓰고 싶은데 편지라는 것이 낯설어 어떤 말 부터 시작해야 할 지 도저히 감이 잡히지 않는 경우, 다음과 같이 활용할 수 있겠습니다. GPT에게 오랜만에 만나는 친구에게 반가운 마음을 담은 편지를 써달라고 질문을 남겼습니다. 

 

 

chat GPT와 대화하기

질문을 남기자마자 GPT가 답변을 작성해 주었습니다. 이제 전체적인 구성과 틀을 참고하여 친구와 함께 다시 떠올리고 싶은 추억이 무엇이었는지 등 구체적인 내용을 보완하여 친구에게 편지를 작성할 수 있겠습니다. 제가 생각하는 효율적인 GPT 활용방법은 다음과 같습니다. 

첫째로, 내가 얻고자 하는 것이 사실의 문제인지 파악하고, 사실에 관한 정보는 정확하지 않을 수 있다는 것을 인지합니다.

둘째로, 구체적으로 질문합니다. '친구에게 편지 써줘' 보다 '오랜만에 만나는', '반가운 마음을 담은'과 같은 말을 추가하여 구체적으로 질문합니다. 

셋째로, 나의 상황에 맞추어 나의 말로써 재구성합니다.