Gizli Belgeler: Facebook Özellikler Koyuyor, Kullanıcıların Güvenliğinin Üstünde Kâr Ediyor

1,23 milyar aktif kullanıcısı olan 13 yaşındaki devasa Facebook, her çeyrekte 8 milyar doların üzerinde gelir elde ediyor - bunun 3 milyar doları net gelir (örneğin, kâr).

Ancak bu kadar çok kullanıcıyla Facebook, kullanıcı güvenliğini ikincil bir kaygıya düşürmüş görünüyor. Bu yılın başlarına kadar Facebook, içeriği incelemek için yalnızca 4,500 kişiyi istihdam etti. Bu 1,23 milyar aktif kullanıcının paylaştığını anlayana kadar kulağa pek çok insan geliyor milyarlarca Facebook içeriği hakkında her gün milyonlarca kullanıcı şikayeti ile her gün içerik parçaları.

Facebook'un elinde ciddi bir kullanıcı güvenliği sorunu var mı? Yeni yayımlanmış Muhafız sırların incelenmesi, dahili belgelerin sorununun kontrolden çıktığını gösteriyor.

Facebook, bu yılın başlarında inceleme personelini neredeyse ikiye katlamayı (7500'e) kabul ettiğinde, şirketin platformunda potansiyel olarak zararlı içerik ticareti yapıldığında yeterince yapmadığı (veya belki de umursadığı) iddialarının ortasında bir tür sorunu olduğunu kabul etti. . Her şey harika ise, yönetici kadronuzu ikiye katlamazsınız.

Şimdi, The (UK) Guardian Facebook’un içerik denetleme yönergelerinin şaşırtıcı ayrıntılarını yayınladı ve 100'den fazla gizli, dahili eğitim kılavuzları ve belgelerden derlendi. Tüm bu önemli şeylerin, işe alındıklarında Facebook moderatörlerine verilen tek bir kılavuzda olmaması biraz rahatsız edici.Bunun yerine, politikaya yönelik bölük pörçük bir yaklaşım gibi görünmektedir ve bu da çelişkili bilgiler, eşitsiz ılımlılık ve moderasyon politikalarının gerçek dünyada gerçekte nasıl çalıştığına dair çok az güvenilirlikle sonuçlanır.

Bir kaynak, "Facebook içeriğini kontrol edemez" dedi. "Çok hızlı büyüdü."

Pek çok moderatörün bazı politikaların tutarsızlığı ve kendine özgü doğası hakkında endişeleri olduğu söyleniyor. Örneğin, cinsel içerikle ilgili olanlar en karmaşık ve kafa karıştırıcı olarak söyleniyor.

Facebook'un ne kadar içeriğin denetlediğine dair küçük bir örnek olarak, makaleler şöyle diyor: "Bir belge, Facebook'un potansiyel olarak sahte hesaplarla ilgili haftada 6,5 ​​milyondan fazla raporu incelediğini söylüyor - FNRP (sahte, gerçek kişi değil) olarak bilinir." Ve bu sadece sahte hesaplar içindir. Gerçek içerik için daha kaç milyon rapor olduğunu hayal edin.

Düşünülmeden Önceki Özellikler

İnsanların yeni bir özelliği nasıl kullanabilecekleri (ve kötüye kullanabilecekleri) üzerine herhangi bir fikir verilmeden önce, Facebook bir şeyleri yaymayı ve sonradan nasıl yönetileceğini bulmayı tercih ediyor gibi görünüyor. İnsanların o an hayatlarında olup bitenleri videoya çekmelerine olanak tanıyan bir video yayın hizmeti olan Facebook Live'a bakın. İnsanların onu sonunda ne için kullanacağını düşünüyorlardı?

"Aynı zamanda Facebook’un canlı yayın özelliği cinayetleri ve intiharları yayınlamak için kullanıldı ve şirket görünüşe göre yayınları önceden kapatamadı." Ah! Çoğu şirket muhtemelen böyle bir şeyi başlatmadan önce "Hey, bu tür sorunlu videoları hemen bildirmek ve kesintiye uğratmak için bir yola ihtiyacımız var" diye düşünürdü. Görünüşe göre Facebook değil.

Bu, sorunlar üzerinde tutarlı bir düşünme eksikliğini ve ortaya çıkmadan önce bunları proaktif olarak ele almayı gösterir. Ya da "Hey, hadi bununla başlayalım ve bu konuda herhangi bir şey yapmadan önce ne tür bir itiraz aldığını görelim." (Elbette, Facebook'un küresel bir platform olduğu gerçeğini göz ardı ederek, hepsi "ifade özgürlüğü" adına.) 1

Bu Moderasyon Kılavuzunu Tekrar Nereye Koydum?

Topluluğunuzu güvende tutmak, işlerini eğlenceli hale getirmek ve bunaltıcı olmamak için yeterli sayıda moderatör işe almakla başlar. Açıkça görülüyor ki, Facebook bunu rekor kullanıcı büyümesinin, gelirlerinin ve kârlarının tadını çıkarırken başaramadı. Ancak aynı zamanda, işlerini yapmak için ihtiyaç duydukları her şeyin tek bir yerde olmasını sağlayan güçlendirilmiş topluluk moderasyon liderliğine sahip olmayı da içerir. Sözcülerine göre Facebook, daha iyi araçlara duyulan ihtiyaç hakkında daha derinlemesine düşünüyor: "Daha fazla insana yatırım yapmanın yanı sıra, topluluğumuzu güvende tutmak için daha iyi araçlar da geliştiriyoruz" diyor The Guardian'a. "Sorunları bize bildirmeyi daha basit hale getireceğiz, incelemecilerimiz için hangi gönderilerin standartlarımızı ihlal ettiğini daha hızlı belirleyeceğiz ve birinin yardıma ihtiyacı olursa kolluk kuvvetleriyle iletişime geçmelerini kolaylaştıracağız."

Ve belki hepsini tek bir kılavuza koyarsınız? Yani moderatörler nereye bakacaklarını biliyor ve her kılavuzun tutarlı olmasını sağlıyor mu?

Kendine zarar verme videoları Facebook dünyasında mükemmel bir şekilde iyidir çünkü kişi "sıkıntı içinde". Öyleyse hayvan zulmü (belki de hayvanın sıkıntısı olduğu için mi?). Moderatör her iki tarafın da onayının olmadığını onaylayamazsa "İntikam pornosu" da uygundur (sanırım bunu zamanında yapmak oldukça zor olabilir).

"Cinsel olmayan fiziksel istismar ve çocuklara zorbalık içeren bazı fotoğrafların, sadistçe veya kutlama unsuru olmadıkça silinmesi veya" harekete geçirilmesi "gerekmez." Sadizm ve kutlamaları şiddet içeren görüntü ve videolarınızdan uzak tuttuğunuz sürece, görünüşe göre Facebook onlara izin verecek.

Belgelere göre, "Şiddet içeren ölüm videoları rahatsız edici ancak farkındalık yaratmaya yardımcı olabilir. Videolar için küçüklerin korunmaya ve yetişkinlerin bir seçeneğe ihtiyacı olduğunu düşünüyoruz. İnsanların şiddet içeren ölümlerinin "rahatsız edici" videoları olarak işaretliyoruz. " Canlı videolar veya tehditler gibi intihara meyilli içeriğin Facebook’un denetleme politikalarında nerede yer aldığı net değil, ancak buna izin veriliyor gibi görünüyor.

Facebook'un Kullanıcı Güvenliğine Öncelik Vermesi Gerekiyor

Bazıları, tüm bu içeriğin bekçisi olduğu için Facebook'un daha sıkı bir şekilde düzenlenmesini istedi (tıpkı bir televizyon yayıncısının ağındaki içeriğin bekçisi olması gibi):

1 Mayıs'ta İngiliz milletvekilleri tarafından yayınlanan bir raporda, "en büyük ve en zengin sosyal medya şirketleri, yasadışı veya tehlikeli içerikle mücadele etmek, uygun topluluk standartlarını uygulamak veya kullanıcılarını güvende tutmak için yeterince adım atmaktan utanç verici bir şekilde uzaktalar" dedi.

"İfade özgürlüğü" tarafında hata yapmak, özellikle bir Amerikan şirketi için iyi bir fikir gibi görünebilir. Ancak sosyal ağlar öncelikle çevrimiçi topluluklardır - gazetelere pek benzemezler. Facebook’un birincil amacı insanları birbirine bağlamaktır. Bunun sonucu olarak onların yönergeleri bu çeşitliliği daha çok yansıtıyor ve bir tür haber yayıncılığı mantrası veya boş ideoloji yerine bu topluluğun güvenliği için tasarlanıyor.

Facebook'un her gün milyonlarca insanı ve içeriği yönetme yöntemleri konusunda daha şeffaf olmasını istiyoruz. Bu konulara daha fazla ışık tutmak, sorunlara dikkat çekmeye yardımcı olur ve Facebook'a topluluğunun güvenliğini geliştirme fırsatı verir. Ve Facebook'un, platformunu güvende tutmak için yeterli personele sahip olmasını sağlamak için gelirinin çok daha fazlasını harcadığını görmek istiyoruz. Bütün kullanıcılar için.

Daha fazla bilgi için

Dipnotlar:

1. Oh, ve unutmayın ki Facebook'ta 100.000 daha fazla takipçiniz varsa, onların gözünde sizi “kamuya açık bir figür” yapar - ve sıradan insanların mahremiyetine veya diğer korumalarına tabi değildir. [↩]