GenAI modellerinin hassas siyasi konular ve Çin Devlet Başkanı Xi Jinping hakkındaki sorulara yanıt vermesi bekleniyor.
Çin hükümetinin, “temel sosyalist değerleri içerip içermediğini” görmek için ülkedeki yapay zeka (AI) şirketlerinin büyük dil modellerini (LLM'ler) test ettiği iddia edildi.
Financial Times'a (FT) göre, hem startuplar hem de TikTok'un sahibi ByteDance ve Alibaba gibi büyük teknoloji şirketleri, Çin Siber Uzay İdaresi (CAC) tarafından incelenecek.
CAC yetkilileri, siyasi konular ve Çin Devlet Başkanı Xi Jinping hakkındaki sorulara verdikleri yanıtlar üzerinden yapay zeka modellerini test edecek.
Düzenlemeler, Çin'in en popüler sohbet robotlarının 1989 Tiananmen Meydanı protestoları gibi konulardaki soruları yanıtlamayı reddetmesine yol açtı.
Ülkeler yapay zeka düzenlemeleri için bir plan oluşturmaya çalışırken Çin, “sosyalizmin temel değerlerine” bağlı kalma gibi gereklilikleri içeren, üretken yapay zekayı (GenAI) yönetmek için kurallar belirleyen ilk ülkeler arasında yer aldı.
Çin'deki bir yapay zeka şirketi, FT'ye, modellerinin belirsiz nedenlerden dolayı ilk test turunda başarısız olduğunu, ancak modeli “tahmin edip uyarladıktan” sonra testi geçtiğini söyledi.
FT, yapay zeka modelinin eğitim verilerinden “sorunlu bilgilerin” çıkarılması ve ardından hassas kelimelerden oluşan bir veritabanının eklenmesi anlamına gelen “güvenlik filtrelemenin”, sansür politikasının gerekliliklerini karşılamanın yolu olduğunu kaydetti.
Mühendisler FT'ye, LLM'lerin çoğunun İngilizce verilerle eğitilmesi nedeniyle, eğitim veri setlerinin kurallara uymasının daha sorunlu olduğunu söyledi.
CAC, Çin'i yapay zeka alanında rekabetçi bir lider haline getirmekle hükümetin sosyalist inançlarını tatmin etmek arasında bir denge bulmaya çalışıyor.
CAC tarafından geçen yıl yapılan açıklamada, GenAI hizmetlerinin çalışabilmesi için lisansa ihtiyaç duyulduğu ve “yasa dışı” içerik sağladığının tespit edilmesi halinde bu tür içeriklerin üretiminin durdurulması için tedbir alınması ve ilgili otoritenin gerekli önlemleri alması gerektiği belirtilmişti. rapor edilmelidir.
Düzenlemelere rağmen Çin, ByteDance ve start-up Zhipu'nun kendi üretken yapay zeka sohbet robotlarını geliştirmesiyle dünyada en fazla GenAI patenti alan ülke haline geldi.