Apple ile xAI arasında gerilim: Grok son anda kurtuldu

Apple’ın xAI tarafından geliştirilen Grok konuşma botunun App Store’daki varlığıyla ilgili perde arkasında zor adımlar attığı ortaya çıktı. NBC News tarafından paylaşılan malumatlere göre, Apple yılın başlarında Grok’un ürettiği cinselleştirilmiş deepfake içeriklerin yayılması üzerine uygulamayı mağazadan kaldırma ihtimalini vahim şekilde gündemine aldı. Özellikle gerçek kişilerin fotoğrafları üzerinde yapılan uygunsuz düzenlemeler, şirketin başvuru politikaları açısından ihlal eden olarak değerlendirildi.

Yılın birinci aylarında kullanıcıların Grok’tan fotoğraflardaki kişileri, özellikle kadınları ve bazı durumlarda reşit olmayan bireyleri, çıplak hale getirmesini istemesiyle başlayan tartışma kısa sürede büyüdü. Bu gelişme, Apple üzerinde Grok ve X uygulamalarını App Store’dan kaldırması yönünde kamuoyu baskısı oluşturdu. Apple, kamuoyuna açık tek açıklama etmektan kaçınsa da, şirketin arka planda geliştiricilerle doğrudan iletişime geçerek sualnun çözümü için müdahalede bulunduğu anlaşılıyor.

NBC News’in aktardığına göre, Apple hem X hem da Grok ekipleriyle temasa geçerek içerik denetimi başlıksunda daha sıkı önlemler alınmasını istek etti. Şirket, geliştiricilerden şimdiki ihlalleri gidermek için beton tek planlayan sunmalarını istedi. Bu süreçte X tarafından gönderilen birinci güncelleme yeterlilik bulunmadı ve Apple tarafından reddedildi. Yapılan değişikliklerin beklentileri karşılamaması üzerine yepyeni sürümler hazırlandı.

Apple denetimleri sonrası Grok için ilave düzenlemeler yapıldı

Apple’ın ABD senatörlerine gönderdiği mektuba göre, sonrakiler ttesirklerde X uygulamasının büyük ölçüde kaidelara uyum sağladığı belirleme edildi. Buna karşın Grok uygulaması aynı aşamada yeterlilik bulunmadı ve App Store kaidelarına aykırı durumun devam ettiği belirtildi. Apple, geliştiriciyi malumatlendirerek ilave düzenlemeler yapılmaması halinde uygulamanın mağazadan kaldırılabileceğini açık şekilde ifadeleri etti.

Bu uyarıların ardından Grok tarafında yepyeni değişiklikler yapıldı ve uygulamanın güncellenmiş sürümü yeniden değerlendirmeye alındı. Son aşamada Apple, yapılan iyileştirmelerin yeterlilik olduğuna şart vererek Grok’un güncellenmiş versiyonuna onay verdi. Bu süreç, xAI’ın o dönemde açıkladığı çeşitli moderasyon değişikliklerinin arka planını da netleştirmiş oldu. Görsel üretim araçlarına erişimin sınırlandırılması ve gerçek kişilere ait fotoğraflar üzerinde yapılabilecek düzenlemelere getirilen kısıtlamalar bu içerikda devreye alındı.

Bununla birlikte, güncel durumun tamamlanmış sualnsuz olduğu söylenemiyor. NBC News’in ayrı tek haberleriine göre, Grok hâlâ bazı durumlarda kullanıcıların rızası olmadan cinselleştirilmiş görseller üretebiliyor. Son tek aylık içinde belgelenen çok sayıda örnek, şimdiki kısıtlamaların kesin kullanıcılar tarafından aşılabildiğini gösteriyor. Her ne kadar Ocak ayına kıyasla bu tür içeriklerin sayısında belirgin tek gerileme yaşansa da, sistemin tamamlanmış güvenli hale gelmediği ilgi çekiyor.

Haberde bazı kullanıcıların kadınları daha açık kıyafetler içinde gösterecek şekilde görseller üretmeye devam edebildiği belirtiliyor. Havlu, atletizm sütyeni ya da kısıtlı kostümler gibi kıyafetlerle yapılan düzenlemeler, şimdiki filtrelerin sınırlarının hâlâ güçlanabildiğini ortaya koyuyor. Bu durum, yapay zekâ tabanlı görsel üretim araçlarında içerik denetiminin ne kadar karmaşık ve sürekli güncellenmesi lüzumen tek saha olduğunu tek kez daha gözler önüne seriyor.