챗봇은 신뢰할 수 있습니까? 당신은 무엇을 알 수 있습니까.

즉시 생성되고 이해하기 쉬운 답변으로 사람들의 질문에 답하는 ChatGPT의 놀라운 능력은 의학적 조언을 구하는 사람들에게 게임 체인저가 될 수 있지만 새로운 의학 저널 기사에 따르면 그렇게 간단하지 않다고 합니다. ChatGPT도 마찬가지입니다.

Microsoft 부사장인 Peter Lee는 지난 6개월 동안 사용자의 질문에 대화식 어조로 답변하도록 설계된 인공 지능 플랫폼인 ChatGPT의 최신 버전을 실험했습니다.

다른 소위 대규모 언어 패러다임과 마찬가지로 샌프란시스코 스타트업 OpenAI가 만든 ChatGPT는 인터넷, 책 및 기타 소스에서 사용할 수 있는 방대한 양의 데이터에 대해 교육을 받습니다. 알고리즘을 사용하여 인터넷에서 함께 나타나는 빈도에 따라 순서대로 단어를 생성합니다. Microsoft의 Bing 검색 엔진은 이제 ChatGPT를 사용합니다.

전 세계에서 Microsoft 연구를 수행하는 컴퓨터 과학자 Lee는 특히 ChatGPT의 의학적 및 과학적 잠재력에 관심이 있습니다.

이전에:ChatGPT는 의료 정보를 뒤집을 태세입니다. 더 좋고 나쁘게.

그 New England Journal of Medicine에 목요일 기사가 실렸습니다. 의료 메모 기록, 진단 기능 제공, 임상의와 환자 교육, 데이터 분석 및 요약을 위한 ChatGPT의 잠재적 용도에 대해 설명합니다. 특히 주목할만한 것은 인간과 같은 공감적 반응을 제공하는 인터페이스의 능력이라고 그는 말했다.

곧 출간될 The AI Revolution in Medicine: GPT-4 and Beyond의 공동 저자이기도 한 Lee에게 올해 출시된 ChatGPT의 최신 버전인 현재 ChatGPT-4에 대한 그의 설렘과 우려를 물었다. 월. 우리는 ChatGPT에서도 같은 질문을 했지만, 여전히 가용성이 제한되어 있기 때문에 응답은 ChatGPT-3에서 나옵니다.

질문: ChatGPT는 신뢰할 수 있는 의료 정보를 제공하나요?

나를 위한: 개인적으로 저는 개인적인 건강 조언이나 정보에 대한 이러한 수준의 정교한 모델을 신뢰하지 않으며 의사와 간호사가 의학적 결정을 내리는 데 모델을 사용한다면 우려할 것입니다.

채팅GPT: ChatGPT는 의료 정보를 포함한 방대한 양의 텍스트 데이터에 대해 훈련된 언어 모델입니다. 그러나 ChatGPT는 의료 전문가가 아니며 응답을 의학적 조언으로 간주해서는 안 됩니다.

ChatGPT는 의료 주제에 대한 정보를 제공할 수 있지만 건강에 관한 결정을 내리기 전에 자격을 갖춘 의료 전문가와 해당 정보를 확인하는 것이 중요합니다. ChatGPT가 부정확하거나 오래된 의료 정보를 제공하여 해로울 수 있는 위험도 있습니다.

질문: ChatGPT에서 어떤 유형의 오류가 발생하며 그 이유는 무엇입니까?

나를 위한: GPT 양식은 일반적으로 정보 검색이 매우 나쁩니다. GPT 모델은 학습 데이터를 다시 컴파일하지 않기 때문에 거의 설계상입니다. 논문에 대한 참조와 같은 특정 출처를 묻는다면 그는 정확한 출처를 생생하게 가져올 수 없기 때문에 무언가를 만들어 내고 “환각”하고 있습니다.

채팅GPT: ChatGPT는 부적절하거나 잘못된 응답을 제공하거나, 반복하거나, 대화의 맥락과 일치하지 않는 응답을 생성하는 등의 오류를 만들 수 있습니다.

이러한 오류는 ChatGPT가 확인되지 않고 잠재적으로 편향된 정보를 포함하여 부정확하거나 오래된 정보로 이어질 수 있는 방대한 양의 텍스트 데이터에 대해 훈련되었기 때문에 발생할 수 있습니다.

또한 ChatGPT 응답은 수신하는 입력의 품질에 영향을 받을 수 있으며, 이로 인해 관련이 없거나 주제에서 벗어난 응답이 생성될 수 있습니다.

질문: ChatGPT-4가 ChatGPT-3보다 나은 점은 무엇입니까?

나를 위한: 우리는 다른 수준의 지능에 도달합니다. 가장 중요한 것은 인지 기능이 많은 이 AI 모델과 채팅 인터페이스가 있다는 것입니다. 상호 작용하는 것이 정말 자연스러워집니다.

채팅GPT: 규모, 정확성, 다국어 기능, 컨텍스트 이해 및 일관성과 같은 영역에서 개선을 기대하는 것이 합리적입니다.

질문: ChatGPT는 때때로 실제 사람처럼 보입니다. ChatGPT에는 다른 사람의 정신 상태를 상상하는 능력인 “마음 이론”이 있습니까?

나를 위한: 당신은 이것을 할 수 없습니다. 그것은 기계입니다. 그러나 GPT-4에게 (주어진 상황에서) 환자가 무엇을 생각하고 느끼는지 물어볼 수 있습니다. 그는 그 마음의 상태를 평가할 수 있습니다. … 그것은 환자에 대한 공감으로 해석됩니다.

채팅GPT: 아니요, ChatGPT에는 심리 이론이 없습니다.

ChatGPT는 통계적 패턴과 알고리즘을 사용하여 자연어 입력에 대한 응답을 생성하는 기계 학습 모델입니다. 의식, 감정 또는 신념이 없으며 인간 사용자의 정신 상태를 이해하거나 추론하는 능력도 없습니다.

ChatGPT는 공감하고 참여하며 대화할 수 있는 응답을 생성할 수 있지만 인간 인지 및 사회적 상호 작용의 중요한 측면인 마음 이론을 가지고 있지 않습니다.

질문: ChatGPT를 의학에 사용해야 합니까?

나를 위한: 사회는 선택권이 있습니다. 우리는 위험을 완전히 이해하지 못하기 때문에 이 기술을 늦추거나 끌 수 있습니다. 두 번째 주장은 다음과 같이 더 운명론적입니다. “그것은 멈출 수 없습니다. 시도해 볼 수도 있습니다. 유일하게 합리적이라고 생각하지만 의도적으로 만들어야 하는 세 번째 옵션은 이 기술을 우리 삶에 통합하여 인간이나 AI만으로는 할 수 없는 일을 성취할 수 있는 방법에 대해 신중하게 생각하는 것입니다. . 의료계와 국민이 세 번째 선택을 하길 바란다.

채팅GPT: ChatGPT는 의학적 조언이나 진단을 위해서만 의존해서는 안 됩니다. ChatGPT는 의료 주제에 대한 정보를 제공할 수 있지만 의료 전문가가 아니며 응답은 정보 제공용으로만 간주되어야 합니다.

그러나 ChatGPT는 의학 개념과 용어에 대한 일반적인 이해를 얻는 데 유용한 도구가 될 수 있습니다. 어떠한 경우에도 ChatGPT에서 제공하는 모든 정보가 정확하고 귀하의 상황에 적용 가능한지 확인하기 위해 자격을 갖춘 의료 전문가와 함께 확인하는 것이 중요합니다.