“죽은 인터넷 이론”은 인공 지능이 운영하는 네트워크에 대해 기괴한 주장을 합니다. 진실은 더 사악하다

페이스북에서 '새우 예수'를 검색하면 인공지능(AI)이 생성한 수십 장의 갑각류 이미지와 예수 그리스도의 전형적인 이미지가 다양하게 결합된 모습을 볼 수 있다.

이러한 사실적인 사진 중 일부는 20,000개 이상의 좋아요와 댓글을 받았습니다. 그렇다면 여기서 정확히 무슨 일이 일어나고 있는 걸까요?

“죽은 인터넷 이론”에는 다음과 같은 설명이 있습니다. 인공 지능과 봇이 생성한 콘텐츠가 인간이 만든 인터넷을 추월했습니다. 하지만 이 아이디어는 어디에서 왔으며 실제로 근거가 있습니까?

죽은 인터넷 이론이란 무엇입니까?

죽은 인터넷 이론은 본질적으로 소셜 미디어 계정을 포함한 온라인 활동과 콘텐츠가 대부분 인공 지능 에이전트에 의해 생성되고 자동화된다고 주장합니다.

이러한 에이전트는 Facebook, Instagram, TikTok과 같은 플랫폼에서 참여도(클릭, 좋아요, 댓글)를 높이기 위해 설계된 AI 생성 이미지와 함께 게시물을 빠르게 작성할 수 있습니다. 새우 예수의 경우, 현재 입소문이 퍼지고 있는 어리석음과 종교적 도상학의 혼합이라는 사실을 AI가 학습한 것 같습니다.

그러나 죽은 인터넷 이론은 그 이상입니다. 많은 계정이 이 콘텐츠에 참여합니다. 또한 인공지능 요원이 운영하는 것으로 보인다. 이는 명확한 의제가 없고 더 이상 인간을 전혀 포함하지 않는 인위적인 참여의 악순환을 만듭니다.

무해한 참여 또는 정교한 선전을 육성하고 계십니까?

언뜻 보면 이러한 계정이 관심을 끄는 동기는 분명해 보일 수 있습니다. 즉, 소셜 미디어 참여가 광고 수익으로 이어진다는 것입니다. 누군가가 부풀려진 참여를 받는 계정을 만들면 Meta와 같은 소셜 미디어 조직으로부터 광고 수익의 일부를 얻을 수 있습니다.

그렇다면 죽은 인터넷 이론은 무해한 소작에 그치나요? 아니면 표면 아래에는 권위주의 정권을 지원하고 반대자를 공격하며 선전을 퍼뜨리려는 정교하고 자금이 풍부한 시도가 숨어 있을까요?

새우 예수 현상은 비록 이상하기는 하지만 무해해 보일 수 있지만, 장기적인 계략이 있을 가능성이 높습니다.

이러한 AI 계정의 팔로어 수가 증가함에 따라(많은 가짜, 일부 실제) 팔로어 수가 많아지면 실제 사용자에 대한 계정에 합법성이 부여됩니다. 이는 계정 군대가 생성됨을 의미합니다. 가장 높은 입찰가를 가진 사람들이 게시할 수 있는 팔로어 수가 많은 계정입니다.

이제 소셜 미디어가 전 세계 많은 사용자의 주요 뉴스 소스가 되었기 때문에 이는 매우 중요합니다. 호주에서, 18~24세 중 46% 그들은 작년에 주요 뉴스 소스로 소셜 미디어를 선택했습니다. 이는 2022년 28%에서 증가한 것으로, 라디오, TV 등 기존 매체를 대체합니다.

봇으로 인한 잘못된 정보

실제로 소셜 미디어가 이러한 비대한 봇에 의해 조작되어 잘못된 정보로 여론에 영향을 미치고 있다는 강력한 증거가 있으며, 이러한 현상은 수년 동안 발생해 왔습니다.

2018년 한 연구에서는 2016년과 2017년 10개월 동안 1,400만 개의 트윗을 분석했습니다. 그리고 저는 소셜 미디어의 봇이 매우 관여함 신뢰할 수 없는 출처의 기사를 게시하는 경우. 팔로어 수가 많은 계정은 잘못된 정보와 잘못된 정보를 합법화하여 실제 사용자가 봇에 게시된 콘텐츠를 믿고 참여하고 다시 공유하도록 유도했습니다.

소셜 미디어 조작에 대한 이러한 접근 방식은 미국에서 발생한 대량 총격 사건 이후에 발생하는 것으로 밝혀졌습니다. 2019년 연구에 따르면 X(이전의 Twitter)에서 봇이 생성한 게시물이 발견되었습니다. 공개 토론에 크게 기여이는 극단적인 사건과 관련된 잠재적인 이야기를 증폭하거나 왜곡하는 역할을 합니다.

최근 여러 대규모 친러시아 허위 정보 캠페인이 이를 목표로 삼았습니다. 우크라이나에 대한 지원 약화 그리고 친러 정서 강화.

활동가와 언론인이 밝혀낸 공동 노력은 봇과 인공 지능을 사용하여 가짜 정보를 생성하고 확산시켜 수백만 명의 소셜 미디어 사용자에게 도달했습니다.

X에서만 이 캠페인은 10,000개 이상의 봇 계정을 사용하여 미국과 유럽 유명인의 것으로 보이는 친 크렘린 콘텐츠가 포함된 수만 개의 메시지를 게시했습니다. 지원하다 우크라이나와의 지속적인 전쟁.

이 영향 범위는 넓습니다. 일부 보고서에서는 2022년 전체 인터넷 트래픽의 거의 절반이 트래픽이었다고 밝혔습니다. 로봇이 만든. 그리고 OpenAI의 ChatGPT 및 Google의 Gemini 모델과 같은 생성 AI의 최근 발전으로 가짜 콘텐츠의 품질은 향상될 것입니다.

소셜 미디어 조직은 플랫폼 남용 문제를 해결하려고 노력하고 있습니다. 특히 Elon Musk는 봇 팜을 중지하기 위해 X 사용자에게 멤버십 비용을 지불하도록 요구하는 방법을 모색했습니다.

거대 소셜 미디어 기업은 원할 경우 감지된 대량의 봇 활동을 제거할 수 있습니다. (우리의 친절한 새우 예수님께는 나쁜 소식입니다.)

죽은 인터넷을 염두에 두세요

죽은 인터넷 이론은 그렇지 않다. 진심으로 귀하의 개인적인 온라인 상호 작용 대부분이 가짜라고 주장합니다.

그러나 인터넷을 보는 것은 흥미로운 렌즈입니다. 더 이상 인간을 위한 것이 아니라 인간을 위한 것이라는 것, 우리가 알고 사랑했던 인터넷이 '죽었다'는 의미입니다.

인터넷과 소셜 미디어에서 아이디어를 자유롭게 만들고 공유할 수 있다는 점이 아이디어를 매우 강력하게 만듭니다. 당연히 이는 악의적인 행위자가 통제하려는 힘입니다.

죽은 인터넷 이론은 회의적인 태도를 갖고 비판적인 마음으로 소셜 미디어와 기타 웹사이트를 탐색해야 한다는 점을 상기시켜 줍니다.

모든 반응, 추세, 특히 '일반적인 정서'는 인위적일 수 있습니다. 세상을 보는 방식을 조금 바꾸도록 설계되었습니다.