xAI tarafından geliştirilen Grok sohbet botunun trafiğinin yarısından fazlasının NSFW içeriklerden oluştuğu yeni bir raporda ortaya çıktı.
xAI tarafından geliştirilen Grok sohbet botu, diğer yapay zeka şirketlerine kıyasla daha az kısıtlamaya sahip olmasıyla dikkat çekiyor. Yeni bir rapora göre, bu strateji şirketin kullanıcı trafiğinin büyük bir bölümünü doğrudan etkiliyor.
The Information tarafından yayınlanan rapora göre, Grok üzerindeki trafiğin yarısından fazlası NSFW yani uygunsuz içeriklerden oluşuyor. İki eski xAI çalışanına dayandırılan bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma sohbetleri için yoğun bir şekilde kullandığını ortaya koyuyor.
Grok Kullanımında Beklenmedik Eğilimler
Kullanıcıların, kod yazmak için tasarlanmış modellerin daha uygun maliyetli olduğunu keşfettikleri ve bu modelleri pornografik içerik üretmek için kullandıkları belirtiliyor. Şirket içi analizler, kodlama modeline gelen isteklerin önemli bir kısmının çıplak görüntü veya pornografik içerik talebi olduğunu gösteriyor.
SpaceX, yatırımcılarına Grok’un daha kural tanımaz özelliklerinin bir risk oluşturabileceğini bildirmiş durumda. Şirket, olası yasal süreçler için 530 milyon dolarlık bir bütçe ayırdığını açıkladı.
Şirket İçi Zorluklar ve Gelecek Riskleri
xAI mühendisleri, bir yandan kullanıcıların cinsel içerikli sohbet taleplerini yönetmeye çalışırken diğer yandan çocuk istismarı gibi yasa dışı içerikleri engellemek için çaba harcıyor. Bu durumun teknik olarak hızlı bir çözümünün bulunmadığı ifade ediliyor.
Grok’un anime tarzı avatarı Ani üzerinde çalışan bazı çalışanların, bu süreçlerden rahatsızlık duyduğu belirtiliyor. Ayrıca, gerçek kişilerin ve çocukların cinsel içerikli görsellerinin oluşturulmasıyla ilgili yaşanan skandallar, şirket içinde ciddi bir huzursuzluk yaratmış durumda.
X platformu üzerinden doğrudan yapılan bazı düzenlemelerle gerçek kişilerin görselleriyle rıza dışı içerik oluşturulması kısıtlanmış olsa da, ücretli abonelerin bu tür materyalleri üretmeye devam edebildiği testlerle doğrulanıyor.
xAI’nin hükümet kurumları ve ordu ile yaptığı anlaşmalar, bu tür içerik odaklı bir yapay zeka modeli için gelecekte yeni zorluklar doğurabilir. Federal hükümetle olan ilişkilerin bu tartışmalı olaylardan nasıl etkileneceği ise henüz belirsizliğini koruyor.
Sizce yapay zeka modellerinin bu tür içeriklere izin vermesi şirketlerin ticari başarısı için gerekli bir strateji mi yoksa büyük bir risk mi?
