Google은 사람들에게 피자에 접착제를 바르도록 요청한 후 AI 개요 기능에 더 많은 제한을 두었습니다.

Google의 검색 책임자인 Liz Read는 AI가 미국에 공개된 후 회사의 검색 엔진이 “AI에 대한 이상하고 부정확하거나 도움이 되지 않는 개요”를 반환했다고 인정했습니다. 그 임원은 Google의 기괴한 AI 생성 응답에 대한 설명을 파일에 게시했습니다. 블로그 게시물또한 회사는 새로운 기능이 보다 정확하고 덜 밈 가치가 있는 결과를 반환하는 데 도움이 되는 보호 장치를 구현했다고 발표했습니다.

리드는 구글을 변호하면서 개를 차에 태워도 안전하다는 주장 등 AI 개요에 대해 유포되는 보다 터무니없는 반응 중 일부는 가짜라고 지적했다. “얼마나 많은 돌을 먹어야 하나요?”라는 질문에 대한 답변을 보여주는 바이러스성 스크린샷 사실이지만 그녀는 한 사이트에서 해당 주제에 대한 풍자적인 콘텐츠를 게시했기 때문에 Google이 답변을 찾았다고 말했습니다. “이 스크린샷이 입소문이 나기 전에는 Google에 이 질문을 한 사람이 거의 없었습니다.”라고 그녀는 설명했습니다. 그래서 회사의 AI가 이 사이트에 연결되었습니다.

Google 부사장은 또한 AI 개요가 포럼에서 가져온 콘텐츠를 기반으로 사람들에게 접착제를 사용하여 피자에 치즈 스틱을 만들도록 요청했음을 확인했습니다. 그녀는 포럼이 일반적으로 “진짜이고 직접적인 정보”를 제공하지만 “도움이 되지 않는 조언”으로 이어질 수도 있다고 말했습니다. CEO는 AI 개요에 떠도는 다른 답변에 대해서는 언급하지 않았지만 워싱턴 포스트 보도에 따르면 이 기술은 또한 버락 오바마가 무슬림이며 사람들이 신장 결석을 제거하는 데 도움이 되도록 소변을 많이 마셔야 한다고 사용자에게 알려주었습니다.

Reed는 회사가 출시 전에 이 기능을 광범위하게 테스트했지만 “수백만 명의 사람들이 그렇게 많은 새로운 검색에 이 기능을 사용하는 것과 같은 것은 없습니다”라고 말했습니다. 구글은 지난 2주 동안의 대응 사례를 살펴보면서 자사의 AI 기술이 제대로 처리하지 못하는 패턴을 파악할 수 있었던 것으로 보인다. 그런 다음 유머와 풍자적인 콘텐츠를 더 잘 감지할 수 있도록 AI를 조정하는 것부터 시작하여 피드백을 기반으로 보호 조치를 취합니다. 또한 사람들에게 오해의 소지가 있거나 해로운 조언을 제공할 수 있는 소셜 미디어 및 포럼 게시물과 같은 사용자 생성 응답을 개요에 추가하는 것을 제한하도록 시스템을 업데이트했습니다. 또한 “AI 개요가 유용하지 않은 쿼리에 대한 트리거 제한도 추가”하고 일부 건강 주제에 대해 AI 생성 응답 표시를 중단했습니다.