YouTube, Twitter, Facebook ve Instagram üzere toplumsal medya platformları, platformlarda oluşabilecek nefret lisanının ve şiddet içeriklerinin önüne geçebilmek için yapay zeka algoritmaları kullanıyor. Bu algoritmalara tanımlanan ve topluluk kurallarını ihlal eden telaffuzlar, görseller ve aklınıza gelebilecek her türlü içerik filtrelenerek gerekli durumlarda engelleniyor.
Fakat bilhassa telaffuz noktasında nihayetinde sözlere yönelik olarak geliştirilen algoritmalar, vakit zaman yanılabiliyor. YouTube’un yapay zeka algoritmasının da bu türlü bir yanılgı ile bir satranç kanalını ezkaza engellediği ortaya çıktı.
Siyah, beyaz, taarruz ve tehdit üzere sözler algoritmayı harekete geçiriyor:
‘Agadmator’s Chess Channel’ isimli kanal, 1 milyondan fazla abonesi ile YouTube’un en tanınan satranç kanallarından biri ve 2017 yılından beri etkin. Lakin kanal, beş kere şampiyon olan ve Grandmaster unvanını kazanan en genç Amerikalı olan Hikaru Nakamura ile bir kısım yayınladıktan sonra geçtiğimiz aylarda engellenmişti. Münasebet ise belirttiğimiz üzere ırkçı telaffuzlar ve topluluk kurallarının ihlali.
Olağan ki ortada bir yanılgı olduğunun kısa mühlet içerisinde anlaşılması üzerine kanal yine etkin edildi lakin uzmanlar, YouTube’un satranç tabirlerini algoritmasına tanımlayarak bu çeşit durumların önüne geçmesi gerektiğini düşünüyor.
Zira satranç görüntülerinin yüzde 80’inde bulunan ‘siyah’ ‘beyaz’ ‘saldırı’ ve ‘tehdit’ üzere satranç oyunlarında sıkça duyduğumuz sözler, YouTube’un yapay zeka algoritmasına nazaran nefret söylemi ve şiddet içeriyor. Her ne kadar moderatörler eşliğinde yürütülen bir filtreleme sistemi olsa da yapay zeka kimi noktalarda başarılı bir filtreleme yapamadığı için bu çeşitten meseleler kaçınılmaz oluyor.
