챗봇 Bard를 사용 하면서의 AI의 오류에 대한 리뷰

최근 해외 의료전문가의 챗봇 Bard를 사용 하면서의 AI의 오류에 대한 리뷰 입니다.

 

2024년 4월  18일

인공지능 챗봇 환각 사례

크리스틴 J. 콜라사코, 학사1; 헤일리 L. 본, MD1

저자 소속

JAMA Otolaryngol Head Neck Surg. 2024년 4월 18일 온라인 게시. doi:10.1001/jamaoto.2024.0428

인공 지능(AI) 사용의 수많은 잠재적 이점에도 불구하고 다양한 연구 분야의 사례를 통해 이것이 완벽한 기술이 아님이 입증되었습니다. AI 챗봇 도구에 대한 우리의 최근 경험은 AI를 실습 지침으로 사용하는 의료 종사자들이 간과해서는 안 됩니다. 이 경험을 공유함으로써 우리는 임상의에게 인간 경험과 함께 AI를 사용하도록 상기시키고 AI가 창의적인 작업에 제공할 수 있는 지원을 강조하는 것을 목표로 합니다.

수석 저자이자 이비인후과 전문의인(HB, 이하 Born 박사)은 최근 챗봇 Bard(Google LLC, 사용 날짜: 2023년 11월) 1를 사용 하여 지속적인 의료를 위한 후두학 기도 관리의 개척지에 대한 간략한 프레젠테이션을 준비하는 데 도움을 주었습니다. 교육 과정. Born 박사가 개요에 대한 정보를 수집하도록 도운 후, 챗봇은 제공된 정보에 대한 인용을 제공하도록 요청 받았습니다. 결과의 정확성을 확인하기 위해 Born 박사는 Google Scholar, PubMed 및 인용된 저널의 웹사이트를 검색하여 인용된 참고문헌을 찾았습니다. 그러나 그녀는 제공된 첫 번째 인용문을 찾을 수 없었습니다. “기도 협착증 관리를 위한 원격 의료. 전문가 Rev Respir Med . 2022;16(10):1485-1493' 및 해당 디지털 객체 식별자(DOI)에서 'DOI를 찾을 수 없습니다.'라는 오류 메시지가 생성되었습니다.

 

 

AI가 모든 전문가가 아닙니다. 현재 정보를 가져오는 것에 대한 기능이 확장되면서 더 넓은 범주의 지식을 학습 후 전달을 해야하는데, 아직 인증되지 않은 링크가 전달되는 경우도 있습니다. 

 

최근 뛰어난 AI 기술을 배워라 투자해라 등등 좋은 시장을 악용하는 사례도 있으므로 항상 주의해야 합니다.