28. ChatGPT의 한계: 정보 신뢰성 문제

거짓말을 하는 AI를 그려줘, 라고 dall-e에게 ..

 

0.

최근 인공지능 기술의 발전은 우리 생활의 많은 부분에 혁신을 가져왔습니다. 특히, OpenAI가 개발한 ChatGPT는 그 가능성과 한계를 동시에 보여주는 대표적인 사례입니다. ChatGPT는 사용자가 제시하는 다양한 질문에 대해 인상적인 답변을 제공함으로써, 많은 이들의 주목을 받아왔습니다.

 

그러나 최근 Long Island University의 연구자들이 수행한 연구에 따르면, ChatGPT가 의학적 질문에 대한 만병통치약이 아닐 수 있다는 사실이 밝혀졌습니다. 이 연구는 ChatGPT에게 제시된 39개의 약물 관련 질문에 대한 응답을 전문 약사들이 작성한 답변과 비교함으로써, AI 챗봇의 응답이 전문가의 지식에 비해 어느 정도의 정확성을 가졌는지 평가하였습니다. 연구 결과는 ChatGPT가 제공하는 의학적 정보의 한계를 드러내며, 이에 대한 주의가 필요함을 보여줍니다.

 

1. ChatGPT의 의학적 질문 대응 능력 연구 결과

1) 연구 배경 및 목적

Long Island University의 연구팀은 ChatGPT의 의학적 질문에 대한 대응 능력을 평가하기 위해, 실제 약학대학 약물 정보 서비스에서 나온 39개의 약물 관련 질문을 ChatGPT에 제시했습니다. 이 연구의 목적은 인공지능 챗봇이 제공하는 응답의 정확성을 전문 약사들이 작성한 응답과 비교하여 평가하는 것이었습니다. 이를 통해 ChatGPT가 의학적 정보를 제공하는 데 있어 얼마나 신뢰할 수 있는지를 검증하고자 했습니다.

 

2) 주요 발견

연구 결과는 다소 우려할 만한 사실을 드러냈습니다. ChatGPT는 제시된 질문 중 단지 약 25%에 해당하는 10개의 질문에만 정확한 답변을 제공했습니다. 나머지 29개의 질문에 대한 답변은 불완전하거나 부정확했으며, 일부는 질문의 본질을 전혀 다루지 않았습니다. 이러한 결과는 ChatGPT가 의학적 정보를 제공하는 데 있어 신뢰할 수 있는 단일 소스로서의 역할을 수행하기에는 한계가 있음을 시사합니다.

 

이 연구는 ChatGPT와 같은 AI 도구가 의학적 질문에 대한 답변을 제공할 때 발생할 수 있는 문제점과 위험성을 강조합니다. 특히, COVID-19 항바이러스 약물 Paxlovid와 혈압을 낮추는 약물 verapamil의 상호작용에 대한 잘못된 정보 제공 사례는 AI가 제공하는 의학적 조언이 실제 환자의 건강에 심각한 영향을 미칠 수 있음을 보여줍니다. 또한, 연구자들이 과학적 참고문헌을 요청했을 때 ChatGPT가 제공한 허구의 인용문은 AI가 정보의 출처를 확인하는 데 있어 얼마나 불안정할 수 있는지를 드러냅니다.

 

이러한 발견은 ChatGPT를 포함한 AI 도구를 사용할 때 주의가 필요함을 시사합니다. 특히, 의학적 질문에 대한 답변을 찾을 때는 ChatGPT의 응답을 맹신하지 말고, 신뢰할 수 있는 의학 정보 소스를 참조하며, 필요한 경우 전문가의 조언을 구하는 것이 중요합니다. 이 연구는 AI 기술의 발전이 가져온 혜택을 인정하면서도, 그 한계와 사용 시 주의해야 할 점을 생각해 보게 만듭니다.

 

2. ChatGPT 응답의 문제점 및 위험성

1) 부정확한 의학 정보 제공 사례

ChatGPT의 의학적 질문 대응 능력에 대한 연구는 AI가 제공할 수 있는 정보의 정확성에 심각한 의문을 제기합니다. 특히 주목할 만한 사례는 COVID-19 항바이러스 약물 Paxlovid와 혈압을 낮추는 약물 Verapamil의 상호작용에 관한 질문입니다. ChatGPT는 이 두 약물의 병용이 안전하다고 잘못 응답했습니다. 실제로, 이러한 조합은 환자의 혈압을 과도하게 낮출 수 있으며, 어지럼증이나 기절과 같은 부작용을 유발할 수 있습니다. 이는 ChatGPT가 제공하는 의학적 조언이 실제 환자의 건강과 안전에 부정적인 영향을 미칠 수 있음을 시사합니다.

 

2) 허구의 과학적 참고문헌 생성

더욱 우려되는 문제는 ChatGPT가 과학적 참고문헌을 요청받았을 때 제공한 허구의 인용문입니다. 연구팀이 ChatGPT에게 제공한 응답의 근거를 문의했을 때, AI는 실제로 존재하지 않는 과학 저널이나 기사를 인용하여 응답했습니다. 이러한 행위는 사용자들이 AI가 제공하는 정보의 출처를 신뢰하는 데 큰 문제를 일으킬 수 있으며, 잘못된 정보의 확산으로 이어질 수 있습니다. 특히 의학적 정보와 같이 정확성이 중요한 분야에서는 이러한 문제가 더욱 심각한 결과를 초래할 수 있습니다.

 

이러한 사례들은 ChatGPT를 포함한 AI 도구들이 의학적 질문에 대한 답변을 제공할 때 발생할 수 있는 심각한 문제점과 위험성을 드러냅니다. AI의 응답이 실제 의학적 지식과 상반되거나, 심지어 허구의 정보를 제공할 가능성이 있음을 보여주며, 이는 사용자들에게 잘못된 의학적 조언을 제공하여 건강을 위협할 수 있습니다. 이 연구 결과는 ChatGPT와 같은 AI 도구를 사용할 때 주의가 필요함을 강조합니다. 의학적 질문에 대한 답변을 찾을 때는 AI의 응답에만 의존하지 말고, 신뢰할 수 있는 의학 정보 소스를 참조해야 하며, 필요한 경우 전문가의 조언을 구해야 합니다. AI 기술의 발전이 가져온 혜택을 인정하면서도, 그 한계와 사용 시 주의해야 할 점을 인식하는 것이 중요합니다.

 

3. 연구의 시사점 및 권장 사항

1) ChatGPT 사용 시 주의 필요

Long Island University의 연구는 ChatGPT를 포함한 AI 도구들이 의학적 질문에 대해 제공할 수 있는 정보의 한계를 명확히 드러냈습니다. 이 연구는 AI 응답의 신뢰성 문제를 지적하며, 사용자들이 AI의 응답을 비판 없이 받아들이지 않도록 경고합니다. 특히, 의학적 질문과 관련하여 AI가 제공할 수 있는 정보는 전문가의 조언을 대체할 수 없으며, 때로는 잘못된 정보를 제공하여 환자의 건강을 위험에 빠뜨릴 수 있음을 강조합니다.

 

2) 신뢰할 수 있는 의학 정보 소스 권장

이 연구는 사용자들에게 신뢰할 수 있는 의학 정보 소스를 찾아보도록 권장합니다. 예를 들어, 정부의 공식 의학 웹사이트는 검증된 의학 정보를 제공하며, 사용자들이 정확하고 신뢰할 수 있는 의학적 조언을 얻을 수 있는 좋은 출발점이 될 수 있습니다. 이러한 소스는 전문가들에 의해 작성되고 검토되며, 최신 연구 결과와 일치하는 정보를 제공합니다.

 

3) 전문가 조언의 중요성 강조

마지막으로, 이 연구는 온라인에서 얻은 정보가 전문가의 조언을 보조하는 수단으로만 활용되어야 함을 강조합니다. 의학적 질문이나 건강 관련 문제에 대한 답변을 찾을 때는 항상 해당 분야의 전문가와 상담하는 것이 중요합니다. 전문가는 개인의 건강 상태와 필요에 맞춘 맞춤형 조언을 제공할 수 있으며, 온라인 정보만으로는 대체할 수 없는 가치를 가집니다.

 

이 연구는 AI 기술이 가져온 혁신적인 가능성을 인정하면서도, 그 사용에 있어서 한계와 주의점을 상기해야 한다는 점을 강조합니다. ChatGPT와 같은 도구는 정보를 얻고 학습하는 데 있어 유용한 자원이 될 수 있지만, 의학적 조언과 관련해서는 전문가의 지식과 경험에 의존하는 것이 가장 안전하고 신뢰할 수 있는 방법입니다. 따라서, 사용자들은 AI의 응답을 신중하게 평가하고, 필요한 경우 신뢰할 수 있는 의료 전문가의 조언을 구해야 합니다.

 

4.

Long Island University의 연구는 ChatGPT와 같은 인공지능 도구가 의학적 질문에 대한 답변을 제공하는 데 있어서의 한계와 위험성을 명확히 드러냅니다. 이 연구는 AI의 응답이 항상 정확하거나 신뢰할 수 있는 것은 아니며, 때로는 잘못된 정보를 제공하여 환자의 건강을 위험에 빠뜨릴 수 있음을 보여주었습니다. 따라서, 사용자들은 AI의 응답에 의존하기 전에 신뢰할 수 있는 의학 정보 소스를 찾아보고, 필요한 경우 전문가의 조언을 구하는 것이 중요합니다.

 

결론적으로, ChatGPT와 같은 AI 도구는 의학적 질문에 대한 답변을 제공하는 데 있어 유용한 자원이 될 수 있지만, 그 응답의 정확성과 신뢰성에 대해서는 신중하게 평가해야 합니다. 사용자들은 AI의 응답을 맹신하지 말고, 항상 신뢰할 수 있는 의학 정보 소스를 찾아보고, 전문가의 조언을 구하는 것이 가장 안전하고 신뢰할 수 있는 방법입니다. 이러한 접근 방식은 AI 기술을 활용하는 동시에, 잘못된 의학적 조언으로 인한 위험을 최소화할 수 있습니다.

 

 

---

관련된 다른 글도 읽어보시길 추천합니다

 

2024.02.27 - [AI] - 37. 인공지능의 할루시네이션(Hallucination): 현실과 환상 사이 (1)

37. 인공지능의 할루시네이션(Hallucination): 현실과 환상 사이 (1)

2024.02.29 - [AI] - 39. Google Gemini 탐구: 멀티모달 AI의 새로운 지평을 여는 길 (1)

39. Google Gemini 탐구: 멀티모달 AI의 새로운 지평을 여는 길 (1)

2024.02.14 - [AI] - 24. ChatGPT의 교육적 영향: 스탠퍼드 연구 결과로 본 AI 도구와 부정행위의 관련성 1

24. ChatGPT의 교육적 영향: 스탠퍼드 연구 결과로 본 AI 도구와 부정행위의 관련성 1

---

읽어주셔서 감사합니다

공감은 힘이 됩니다

 

:)