Her geçen gün daha fazla iletişim dijital formatta gerçekleştiği için, kamuya açık sohbetlerin pek çoğu internet ortamına taşınıyor: gruplar ya da yayınlar üzerinden yapılan iletişimler, metin veya video ve hatta emoji formunda yapılan iletişimler gibi… Internet üzerinde gerçekleştirilen bu iletişimler aynı zamanda insanların yaşadıkları deneyimlerin çeşitliğini de yansıtıyor. Bu nedenle bir kısmı aydınlatıcı ve bilgilendirici, bir kısmı komik ve eğlendirici olurken bir kısmı da siyasi veya dini olabiliyor. Bazıları da nefret dolu ya da çirkin… Sorumlu davranan iletişim platformları, bu tür nefret içeriklerini kısıtlamak için sıkı bir çalışma yapıyor.
Facebook da bu platformlardan biri. Biz, her türlü fikrin paylaşıldığı ve insanların kendini ifade etmesini, başkalarıyla bağlantı kurmasını ve paylaşmasını teşvik etmek isteyen açık bir platformuz. Aynı zamanda, insanların Facebook’a geldiği zaman hoş karşılanmalarını ve kendilerini güvende hissetmelerini istiyoruz. Bu nedenle zorbalığa, tacize ve tehdide karşı kurallarımız var.
Peki, bir kişi nefret dolu bir fikri belli bir insanın adını kullanarak hedef almadan internet ortamında ifade ederse ne oluyor? Bir ırka ait insanların hepsini “vahşi hayvan” olarak tanımlayan veya belli bir cinsel yönelimi olan kişileri “iğrenç” olarak nitelendiren bir mesaj, son derece kişisel algılanabilir ve yaşadığı deneyime bağlı olarak kişi kendini tehlikede bile hissedebilir. Dünyanın pek çok ülkesinde, bu tür saldırılar nefret söylemi kabul ediliyor. Her türlü nefret söylemine karşıyız ve platformumuzda yer almasına izin vermiyoruz.
Bu yazıda, nefret söylemini nasıl tanımladığımızı ve nefret söylemlerini kaldırmayla ilgili yaklaşımımızı ve ayrıca küresel ölçekte, düzinelerce dilde ve pek çok farklı kültürdeki söylemlere sınırlama getirirken karşılaştığımız güçlükleri anlatmak istiyoruz. Bu konudaki yaklaşımımız, diğer platformlarda olduğu gibi, zaman içinde gelişti ve bilgimiz Facebook topluluğu ve bu alandaki uzmanların sayesinde arttıkça ve teknoloji bize daha hızlı, daha doğru ve daha kesin faaliyet göstermemize imkân veren yeni araçlar sağladıkça değişmeye devam ediyor.
Nefret Söylemini Tanımlamak
Nefret söylemini durdurmaya çalışırken karşılaşılan ilk büyük zorluk, sınırlarını tanımlamak.
İnsanlar deneyimlerini ve düşüncelerini paylaşmak için Facebook’a geliyor. Cinsiyet, milliyet, etnik köken ve diğer kişisel özellikler gibi konular da genellikle bu paylaşımların ve sohbetlerin konularından oluyor. İnsanlar, bir ülkenin uluslararası politikası veya bazı dini öğretiler hakkında mutabık olmayabiliyorlar ve biz insanların bu tür konuları Facebook ortamında tartışabilmelerini istiyoruz. Ama bir söz ne zaman çizgiyi aşıp nefret söylemi haline geliyor?
Mevcut tanımımıza göre, insanlara “korunan özellikleri” olarak bilinen – ırk, etnik köken, ulusal köken, dini inanç, cinsel yönelim, cinsiyet, cinsiyet kimliği veya ciddi düzeyde engellilik veya hastalık durumu temel alınarak yapılan doğrudan saldırılar, nefret söylemi olarak kabul ediliyor.
Bir söylemin çizgiyi ne zaman aştığına dair evrensel olarak kabul gören bir yanıt mevcut değil. Bazı ülkelerde nefret söylemine karşı kanunlar olmakla beraber, kabul ettikleri tanımlar çok farklılık gösteriyor.
Örneğin Almanya’da kanunlar, nefretin kışkırtılmasını yasaklıyor. Böyle bir içerik yayınladığınız zaman, kendinizi birden bir polis baskınının ortasında bulabilirsiniz. Diğer taraftan ABD’de, en alçak konuşmalar bile, ABD Anayasasının koruması altında.
Aynı ülkede veya aynı mahallede yaşayan insanlar, koruma altındaki özellikler hakkındaki konuşmalara karşı genellikle farklı tolerans seviyelerine sahip oluyor. Bazıları için, dini bir lider hakkında yapılan nezaketsiz bir şaka, hem dine küfür hem de o inancı takip eden kişilere karşı yapılmış nefret söylemi anlamına geliyor. Bazıları için ise, cinsiyet bazlı atışmalar, her iki tarafın da keyif aldığı komik bir paylaşım olabiliyor. Bir kişinin bir milliyete ait insanlar hakkında olumsuz mesajlar yayınlaması, kendisi de aynı milliyettense kabul edilebilir mi? Peki ya ırkçı bir hakaret kullanarak bir etnik gruptan bahseden genç bir kişi, bunu bir şarkının sözlerinden almış ise ne olacak?
Bu alanda yapılan ve bizim de yakından takip ettiğimiz çok önemli akademik çalışmalar mevcut. Örneğin Timothy Garton Ash bu tür konulara çapraz kültür temelinde bakmak için Serbest Konuşma Tartışması’nı (Free Speech Debate) yarattı. Susan Benesch ise konuşma ve şiddet arasındaki ilişkiyi araştırmak üzere Tehlikeli Konuşma Projesi’ni (Dangerous Speech Project) kurdu. Bu projeler, internet ortamındaki konuşmaların sınırlarını tanımlama konusunda halen yapılması gereken ne kadar çok iş olduğunu gösteriyor. Nitekim biz de Facebook’taki politikalarımızı beslemeye yardımcı olmak için bu çalışmalara katılmaya devam edeceğiz.
Uygulama
Nefret söylemini fark ettiğimiz anda kaldırmak konusunda kararlıyız. Geçtiğimiz iki ay içinde, haftada ortalama 66 bin adet nefret söylemi olarak rapor edilen paylaşım kaldırdık. Bu, tüm dünyada bir ayda yaklaşık 288,000 paylaşımın silindiği anlamına geliyor. (Bu sayılara nefret söylemi olarak bildirilmiş ancak başka nedenlerden dolayı silinmiş olan paylaşımlar dâhil olabilir; ancak başka nedenlerden ötürü bildirilen; fakat nefret söylemi nedeniyle silinen paylaşımlar dâhil değildir.*)
Ancak, konu politikamızı uygulamak olduğunda kusursuz olmadığımız aşikâr. Çoğu zaman bunlar karar vermesi zor durumlar olmakla beraber, yanlış karar verdiğimiz zamanlar da sıklıkla oluyor.
Bazen, bir şeyin nefret söylemi olduğu ve kaldırılması gerektiği açıktır; çünkü bunlar koruma altında olan niteliklere karşı doğrudan şiddete teşvik eder veya insanları küçük düşürmeye ya da itibarsızlaştırmaya çalışır. Koruma altında olan niteliklere karşı olanlar da dâhil olmak üzere, herhangi birine karşı vukuu muhakkak-çok yakın bir ciddi şiddet tehdidi tespit etmemiz durumunda, konuyu ayrıca yerel kolluk kuvvetleriyle de paylaşabiliyoruz.
Ancak bazen net bir fikir birliğine varılamadığı da oluyor; çünkü kullanılan sözcükler net olmayabiliyor, arkasındaki niyet tam olarak bilinemiyor veya nasıl bir bağlamda kullanıldığı tam olarak anlaşılamıyor. Diller sürekli geliştiğinden, dün hakaret olarak algılanmayan bir kelime bugün böyle bir anlamda kullanılabiliyor.
Sitede nelerin kalabileceği ve nelerin kaldırılması gerektiği ile ilgili karar verirken göz önünde bulundurduğumuz bazı hususlar aşağıdaki gibi:
Bağlam
Burn flags not fags (“Eşcinselleri/Sigaraları değil bayrakları yak”) ifadesi ne anlama geliyor? Bu açıkça kışkırtıcı bir ifadeyse de, nefret söylemi olarak kabul edilmeli mi? Örneğin, eşcinsel insanlara yapılan bir saldırı mı, yoksa karalamayı “aklama” girişimi mi? Bayrak yakma siyasi protesto gösterisine teşvik olarak algılanmalı mı? Ya da, konuşmacı veya kitle İngiliz ise, insanları sigara içmekten vazgeçirmek için bir kamu spotu niteliğinde mi? (“Fag,” İngilizcede sigarayla ilgili yaygın bir terimdir) Bunun bir nefret söylemi olup olmadığını öğrenmek için daha fazla bağlama ihtiyaç duyuluyor.
Çoğu zaman en zorlu durumlar, güçlü duygular uyandırmak üzere tasarlanmış, tartışmayı daha da alevlendirmiş gibi görünen bir dil içeriyor ve bağlama (konuşmacının veya izleyicinin ülkesi gibi) tarafsız bakabilmeyi daha da önemli hale getiriyor. Bölgesel ve dilsel bağlam, jeopolitik olayların dikkate alınmasını gerektirdiği için genellikle kritik öneme sahip. Örneğin, Myanmar’da “kalar” sözcüğünün olumlu tarihsel kökleri var ve birçok ilgili Birmanya’ya özgü sözcükle birlikte masumca kullanılıyor. Ancak bu terim aynı zamanda Budist milliyetçilerin Müslümanlara karşı bir saldırı yapabileceği anlamına da gelebilecek biçimde, kışkırtıcı bir kelime olarak da kullanılabiliyor. Sözcük kullanımının gelişme biçimine göz attık ve bir kişiye veya gruba saldırmak için kullanıldığında nefret söylemi anlamına geleceğine ve kaldırmak gerektiğine; ancak diğer zararsız kullanım örneklerinin de olabileceğine karar verdik. Son zamanlarda bu politikamızı uygulama konusunda, özellikle bağlamı anlamanın zorlukları nedeniyle sorunlar yaşadık; ancak daha kapsamlı incelemelerden sonra doğru bir şekilde çözüme kavuşturduk. Ancak bunun, önümüzde duran uzun vadeli bir zorluk olacağını öngörüyoruz.
Rusya ve Ukrayna’da, iki grubun birbirini tanımlamak için uzun zamandır kullandıkları argo kelimelerin kullanımı konusunda benzer bir sorunla karşılaştık. Ukraynalılar, Ruslar için “moskal” ve Ruslar Ukraynalılar için “khokhol” kelimesini kullanıyorlar. 2014’te bölgede gerilim başladıktan sonra, her iki ülkedeki insanlar, diğer tarafın kullandıkları kelimeleri nefret söylemi olarak şikâyet etmeye başladılar. Bir değerlendirme yaptık ve haklı olduklarına karar verdik ve iki terimi de kaldırmaya başladık. Her iki tarafta da başlangıçta bu, kısıtlayıcı göründüğü için hoş karşılanmadı; ancak anlaşmazlığın olduğu bir ortamda bizim için önemli bir karardı.
Genellikle bir politika tartışması, iki tarafın kışkırtıcı dil tavrını benimsemesi nedeniyle nefret söylemi üzerinde bir tartışma haline gelir. Örneğin, göç üzerinden gerçekleşen tartışmalarda ister Güney Doğu Asya’da Rohingya, ister Avrupa’daki mülteci akını veya ABD’deki göç olsun, genellikle durum böyledir. Bu durum ise benzeri görülmemiş bir ikilemi beraberinde getiriyor: Bir yandan, devletlerin sınırlarını kimin geçip kimin geçemeyeceğine nasıl karar vereceklerine ilişkin önemli önemli politik tartışmaları engellemek istemiyoruz. Fakat aynı zamanda da tartışmanın sıklıkla zarar verici olduğunun ve hakaret içerdiğinin de bilincindeyiz.
Örneğin, son yıllarda Almanya’ya gelen göçmen sayısı arttıkça, Facebook’taki bazı paylaşımların doğrudan mülteci veya göçmenleri tehdit ettiği yönünde geri bildirimler aldık. Bu içeriklerin küresel düzeyde hangi şekillerde ortaya çıktığını araştırdık ve göçmenlere karşı şiddete teşvik eden ya da onları örneğin hayvanlarla, pislikle ya da çöple kıyaslayan insanlık dışı referansları kaldırmak için yeni kurallar geliştirmeye karar verdik. Ancak insanların göç konusundaki görüşlerini ifade edebilmeleri için de alan bıraktık. Facebook’un meşru bir tartışma ortamı olarak kalmasını sağlamakta kararlıyız.
Niyet
İnsanların Facebook’ta yaptıkları paylaşımlar arkadaşlarıyla olan sosyal ilişkilerinin bağlamı dikkate alındığında farklı anlamlara gelebilir. Bir paylaşım nefret söylemiyle ilgili politikalarımızı ihlal ettiği gerekçesiyle şikâyet edildiğinde, o içeriğin tam olarak hangi bağlamda paylaşıldığını bilemiyoruz; bu nedenle de şikâyet edilen içeriği yalnızca spesifik metin veya görüntü üzerinden değerlendirebiliyoruz. Ancak paylaşımın hangi bağlamda yapıldığı konusu kişinin paylaşımı yaparken var olan niyetini belirleyebilir ve bu paylaşımı şikâyet eden kişi bu niyeti bilerek şikâyeti yapmış olabilir.
Birinin, nefret söylemi olarak kabul edilebilecek ama aslında nefret içermeyen bir sebeple (örneğin, kendini yeren bir şaka yapma veya şarkı sözlerini alıntılama gibi) paylaşım yapabileceği zamanlar olabiliyor. İnsanlar nefret söylemi hakkında bir tespit yapmak için de hiciv ve dalga geçmeyi sıklıkla kullanabiliyor.
Diğer yandan, insanlar, başkalarının nefret söylemini kınama amacıyla da söz konusu söylemi tekrar paylaşabiliyor. Bu, bazı insanların kendilerini rahatsız eden paylaşımlarla karşılaşabileceği anlamına geldiği için sorgulanabilir görünse de, izin verdiğimiz bir durum. Bu sayede topluluğumuza nefret dolu fikirlere karşı konuşma imkânı sağlandığını düşünüyoruz. Topluluk Standartlarımızı, kişileri kınamak için bir şey paylaştıklarında bunu açıkça belirtmelerini teşvik edecek şekilde revize ettik, fakat bazen niyetleri açık olmadığından nefret karşıtı paylaşımlar yanlışlıkla kaldırılabiliyor.
Diğer durumlarda, insanlar kendilerine saldırmak için kullanılan rahatsız edici terimleri yeniden kullanabiliyor. Birisi kendini kastederek saldırgan bir terim kullandığında aynı terim onlara saldırmak için kullanıldığı zamandan çok farklı gelebilir. Örneğin, “dyke” sözcüğünün kullanılması, eşcinsel oldukları gerçeğinden hareketle birisine saldırmak amacıyla kullanıldığında nefret söylemi olarak kabul edilebilir. Bununla birlikte, birileri #dyke hashtag’i ile kendi fotoğrafını paylaştıysa, izin verilir. Başka bir örnek “faggot” kelimesi. Bu sözcük bir kişiye yöneltildiğinde nefret söylemi olarak kabul edilebilir, ancak örneğin İtalya’da, “frocio”, homofobiyi kınamak ve sözcüğü sahiplenmek için LGBTİ aktivistleri tarafından kullanılır. Bu gibi durumlar söz konusu olduğunda, içeriği kaldırmak, birinin Facebook’ta kendini ifade etme özgürlüğünü kısıtlamak sonucunu doğurabilir.
Hatalar
Nefret söylemi içerdiğini düşündüğünüz için şikâyet ettiğiniz bir içeriği kaldırmazsak, Topluluk Standartlarımızın değerlerine uygun davranmamış olduğumuz düşünülebilir. Paylaştığınız ve makul bir politik görüş olduğuna inandığınız bir şeyi kaldırdığımızda ise sansür akla gelebilir. Bu tür hatalar yaptığımızda insanların ne denli güçlü duygular hissettiklerini biliyoruz ve süreçlerimizi iyileştirme ve her şeyi daha fazla açıklama yönünde sürekli çaba gösteriyoruz.
Hatalarımız, bir içeriği kaldırma ya da kaldırmama kararını önyargılarımız doğrultusunda verdiğimizi düşünen gruplar da dâhil olmak üzere çeşitli topluluklarda endişeyle karşılandı. Görülebileceği her yerde önyargıyı ele almaya ve buna karşı durmaya kararlıyız. Aynı zamanda da, hatalarımızı gerçekleşir gerçekleşmez düzeltmek için çaba gösteriyoruz.
Geçtiğimiz yıl, önde gelen bir Afrikalı-Amerikalı aktivist olan Shaun King, kendisine gönderilen ve hakaret içeren nefret mesajlarını yayınladı. Başta, bu saldırıyı kınamak amacıyla paylaşıldığını anlamadığımız için King’in paylaşımını kaldırdık. Bu hataya dikkatimiz çekildiğinde ise paylaşımı tekrar yayımladık ve özür diledik. Yine de, bu tür hataların ilgili kişileri çok üzdüğünün ve Facebook’ta elde etmeye çalıştıklarımızın tersine bir durum yarattığının farkındayız.
İyileştirmeye Devam Ediyoruz
İnsanlar çoğu zaman “Yapay zeka bunu çözemez mi?” diye soruyor. Teknoloji, iyileştirme çabalarımızın önemli bir parçası olmaya devam edecek. Örneğin, en açık şekilde zehirli söylemleri, paylaşımlarda gizlenecek şekilde yorumlarda filtreleme üzerinde çalışıyoruz. Fakat gelecek vaat eden bu ilerlemelere yatırım yapmaya devam etmekle birlikte nefret söylemini değerlendirmenin gerektirdiği karmaşıklığı ele almada makinelere ve yapay zekaya tamamen güvenebilmek için henüz çok yolumuz var.
Tam da bu nedenle, potansiyel nefret söylemini tespit etme ve bildirme konusunda topluluğumuza çok güveniyoruz. Platformumuzda milyarlarca gönderi var ve şikâyet edilen gönderilerin anlam ve niyetinin değerlendirilmesi için bağlamı anlayabilmek gerekiyor. Bunu anlayabilecek ve fikir beyanı ile nefret söylemi arasındaki sınırı aşan gönderileri güvenilir bir şekilde tespit ve ayırt edebilecek mükemmel bir araç veya sistem henüz mevcut değil. Modelimiz platform üzerindeki herkesin, her hafta görev bilinciyle bize milyonlarca potansiyel ihlal türünü bildiren kişilerin gözlerine ve kulaklarına dayanıyor. Ve bu bildirimleri inceleyen, geniş bir dil deneyimine sahip olan ve dünya çapında günde 24 saat çalışarak nefret söylemi politikalarımızı uygulayan ekibimize…
Şikâyet edilen içeriği inceleyen bu ekiplerin sayısını artırıyoruz: önümüzdeki yıl boyunca 4,500 kişilik bu ekibimize, dünya çapında 3,000 kişi daha ekleyeceğiz. Yerel bağlam ve değişen dil hakkında daha fazla şey öğrenmeye devam edeceğiz. Ölçümleme ve şikâyetlerin nefret söylemine karşı faaliyetlerimizin önemli bir kısmını oluşturması nedeniyle de, anlamlı verilerin elde edilmesinin ve kamuyla paylaşılmasının daha iyi yolları üzerinde çalışıyoruz.
Bir küresel topluluğun bu şekilde yönetimi dünyada bir ilk ve daha yapacak çok işimiz olduğunu biliyoruz. Sadece tek tek gönderiler bakımından değil, aynı zamanda tercihlerimizi ve politikalarımızı bir bütün olarak tartışma ve açıklama konusunda uyguladığımız yaklaşım bakımından da kendimizi geliştirmekte kararlıyız.
Yeni blog serimiz Hard Questions hakkında daha fazla bilgi edinin. Ele almamız gereken başka konularla ve hangi konularda iyileştirmeler yapabileceğimizle ilgili düşüncelerinizi bekliyoruz. Lütfen önerilerinizi hardquestions@fb.com adresine gönderin.
* Yukarıdaki sayılar hakkında:
Bu sayılar Nisan ve Mayıs 2017 ortalamalarını temsil etmektedir.
Bu sayılar nefret söylemi ile ilgili olarak şikâyet edilen ve hangi nedenle olursa olsun silinen içeriği yansıtmaktadır.
Sayılar Facebook üzerindeki tek tek gönderilere dair raporlara özgüdür.
Bu sayılar Instagram’dan silinen nefret söylemini kapsamamaktadır.
Bu sayılar bütün bir sayfanın, grubun veya profilin kaldırılması veya devre dışı bırakılması nedeniyle silinmiş nefret söylemini içermemektedir. Bunun anlamı, nefret söylemi üreten bir grubun ayrı ayrı birçok nefret söylemi örnekleri içerebilecek olması nedeniyle gerçek rakamın çok altında bir rakam sunabilecek olduğumuzdur.
Bu sayılar başka nedenlerle şikâyet edilmiş olan nefret söylemini kapsamamaktadır.
Örneğin, insanların istenmeyen linklere tıklamasını sağlamak için ölçümlenmemiş beyanlardan yararlanılabilmektedir ve mevcut tanımlarımıza göre bu durum istenmeyen bağlantılar olarak şikâyet edilmişse bunları nefret söylemi olarak takip etmiyoruz.
Örneğin bir gönderi, çıplaklık veya zorbalık nedeniyle şikâyet edilmiş olması, fakat nefret söylemi nedeniyle silinmiş olması durumunda bu sayılara dâhil edilmeyecektir.
Bu sayılar nefret nedeniyle şikâyet edilmiş olup başka nedenlerle silinmiş olabilecek içerik içerebilir.
Örneğin bir gönderi, nefret söylemi nedeniyle şikâyet edilmiş olması, fakat çıplaklık veya zorbalık nedeniyle silinmiş olması durumunda bu sayılara dâhil edilecektir.
Bu sayılar ayrıca içeriği yanlışlıkla kaldırdığımız durumları da kapsamaktadır.
Sayılar çevrimdışı olaylar (bir terör saldırısının sonrası gibi) veya çevrimiçi olaylar (bir istenmeyen posta saldırısı gibi) nedeniyle farklı zaman aralıklarında büyük değişiklik gösterebilir.
* Richard Allan, Facebook Kamu Politikaları Başkan Yardımcısı – Avrupa, Orta Doğu, Afrika Bölgesi