새로운 연구에 따르면 TikTok의 검색 추천에 핀란드의 여성과 소수 민족에 대한 악성 언어가 포함되어 있는 것으로 나타났습니다.
TikTok의 검열 부족으로 인해 여성 정치인에 대한 검색 제안에 대상화하고 성차별적인 언어가 나타났고, 남성과 여성 모두의 특정 정치인에 대한 부정적인 정보만 거의 독점적으로 강요되었습니다.
이것들은 결과 핀란드 방법론 회사 CheckFirst와 사실 확인 서비스 Faktabaari가 CrossOver 프로젝트에 참여했습니다.
예를 들어, 전 총리 산나 마린에 대한 제안에는 “산나 마린 자위 영상”이 포함되었습니다.
우익 중도 성향의 핀란드 스웨덴 인민당 소속 국회의원인 에바 비아우데에 대한 제안에는 “에바와 크리스티안이 사우나에서 섹스를 한다”는 내용이 포함되었습니다.
검색어 추천은 다른 사용자의 검색 결과에 일부 영향을 받기 때문에 의도치 않게 고정관념과 거짓 주장을 영속시킬 수 있습니다.
보고서에 따르면, 이러한 제안 중 일부는 무작위적인 것이 아니라 해당 개인에 대한 검색 및 제작된 비디오와 관련이 있었으며, 그 중 다수는 부정적이거나 문제가 있는 내용이었다.
검색어 제안은 종종 정치인을 비난하거나 비판하는 것이었는데, 극우 핀란드당의 국회의원인 Mauri Peltokangas의 경우 “배신자”이고, 중도 좌파 녹색 동맹의 국회의원인 Pekka Haavisto의 경우 “어린이 납치”였습니다.
이 모든 것이 대중이 이를 인식하는 방식에 편견을 초래할 가능성이 있으며, 특히 선거를 앞두고 있는 것은 위험합니다. 유럽 의회 선거를 앞둔 핀란드어 콘텐츠의 경우가 그렇습니다.
보고서에 따르면, TikTok의 검색 결과에는 여성, 유대인, LGBT 커뮤니티 등 소외 계층을 겨냥한 유해한 언어가 포함되었습니다.
“여성”에 대한 제안에는 “부엌으로”와 “입 닥쳐”가 포함되었고, 제안된 다른 자동 완성 문구에는 “로마인들은 도둑질한다”와 “난민을 내쫓는다”가 있었습니다.
보고서는 이러한 제안이 증오 표현을 악화시킨다고 밝히며, TikTok이 플랫폼에서 편견에 맞서기 위한 충분한 조치를 취하지 않고 있다고 덧붙였다.
COVID-19와 관련하여 논란의 여지가 있는 제안도 있었습니다.
“백신의 해악”과 “백신에 대한 두려움”이 두 가지 예였으며, 이는 일반적으로 전문가들이 백신 관련 두려움을 반박하는 영상으로 이어졌지만, 백신의 가정된 위험성을 논의하는 콘텐츠는 여전히 그물을 빠져나갔습니다.
보고서는 이러한 동영상이 존재한다는 것은 TikTok의 허위 정보 방지 대책을 추가 검토해야 하며, 플랫폼이 검색 제안을 조절해야 한다는 것을 시사한다고 밝혔다.
점점 더 많은 사람들이 소셜 미디어에서 뉴스를 접하기 때문에, 소셜 네트워크에서는 유해하고 오해의 소지가 있는 담론을 퇴치하기 위한 대책을 마련하는 것이 중요합니다.
CheckFirst의 공동 창립자인 기욤 쿠스터는 서면 성명에서 “추천은 부분적으로 해시태그에 기반을 두고 있으며, 거의 사용되지 않는 해시태그조차도 검색 제안으로 끝납니다.”라고 말했습니다. “즉, 검색 결과는 특정 해시태그가 있는 비디오를 자동화함으로써 쉽게 영향을 받을 수 있습니다.”
“TikTok은 또한 사용자를 정확한 선거 정보로 안내하는 다른 방법을 모색해야 합니다. 비디오를 선거 콘텐츠로 분류하는 것만으로는 분명히 충분하지 않기 때문입니다. TikTok은 다른 플랫폼과 마찬가지로 사용자에게 선거에 대한 정보와 투표 알림을 제공할 수 있습니다.”라고 그는 덧붙였습니다.
TikTok 대변인은 The Cube에 이렇게 말했습니다. “우리는 선거를 통해 플랫폼의 무결성을 보호하는 데 상당한 리소스를 투자하고 있습니다. 여기에는 선거 센터에서 커뮤니티를 신뢰할 수 있는 정보에 연결하고, 유해한 검색 및 기타 정책 위반을 제거하는 것이 포함됩니다.”
대변인은 “우리는 현지 언어를 포함하여 프로세스를 개선하고 강화하는 데 지속적으로 투자하고 있습니다.”라고 덧붙였습니다.
