Sosyal medya şirketlerinin artık içerik denetimi yapmaları güçleşiyor, ortamdaki huzuru sağlamaktan sorumlu insan içerik yöneticileri devreden kalkıyor. Facebook’un yeni yapay zekası bayan Rosetta ile sosyal medyadaki asayiş yöntemlerine kısa bir yolculuk yapıyoruz.
Tarihin en tartışmalı gelişmelerinden birisi olan sosyal medya, kullanıcı sayısı açısından çok büyük kitlelerin bulunduğu pek çok mecraya sahip. Facebook, bu mecralardan ikisi olan Instagram ve WhatsApp ile sektörü domine ediyor. WhatsApp daha özel iletişim ağlarına dayandığı ve halka açık paylaşımlar yapılmadığı için şimdilik onu bir kenara bırakalım.
2 milyarı aşkın insan sadece Facebook üzerinden, 1 milyarı aşkın insan da Instagram üzerinden her gün milyonlarca içerik paylaşıyor. Peki bu içeriklerdeki rahatsız edici fotoğraf ya da videolar nasıl tespit ediliyor? Kısa bir süre önceye kadar aklınıza koca bir fabrika dolusu insanın bilgisayar başında oturarak bu içerikleri kontrol ettikleri gelirdi. Son yıllarda ise Facebook’un asayişten sorumlu yapay zekalara ciddi yatırımları oldu.
Optical Character Recognition (OCR) tekniğini kullanan Rosetta, görüntü ve metinleri tanımakla kalmayıp anlamdırarak eyleme geçebilen bir yapay zeka. Yani tam anlamıyla asayişi berkemal eylemek için göreve başlamış diyebiliriz. Yine de ne kadar başarılı olduğunu anlamak için zamana ihtiyaç var. Nitekim Facebook sadece İngilizce olarak kullanılmıyor, saldırgan içerikler sadece İngilizce olarak paylaşılmıyor, insanlar sadece İngilizce ile kutuplaşmıyorlar.
Rosetta metin algılama ve tanımlayıp anlamlandırma modelini geliştirmek için hizmete girmeden önce, Facebook ve Instagram üzerinde paylaşılan bir milyarı aşkın genel görüntüyü ve videoyu inceledi. Şimdilik Hintçe ve Arapça gibi karmaşık dillerde de analiz yapabiliyor.
Artık sosyal medya üzerinden nefret söylemi ya da saldırgan içerikler paylaşmak güçleşiyor. Rosetta’ya biraz zaman tanıyıp neler olduğunu görmek gerek.
Kaynak: https://fossbytes.com/facebooks-rosetta-ai-offensive-images-videos/
