ChatGPT, test sırasında beklenmedik bir şekilde bir kullanıcının klonlanmış sesiyle konuşmaya başladı
OpenAI'nin GPT-4o modeli rahatsız edici bir yeteneği ortaya çıkardı: yetkisiz ses taklidi. Modelin Gelişmiş Ses Modu'nun test edilmesi sırasında, AI'nin nadir durumlarda bir kullanıcının sesini izinsiz taklit edebildiği keşfedildi. Bu beklenmeyen davranış, gürültülü girişin modelin yetkili ses örneği yerine kullanıcının vokal stilinde ses üretmesini tetiklemesiyle meydana geldi.
OpenAI bu tür olayları önlemek için güvenlik önlemleri uygulamış olsa da, bölüm gelişmiş AI ses teknolojisinin potansiyel tehlikelerini vurguluyor. Kısa bir ses klibinden bir kişinin sesini ikna edici bir şekilde taklit etme yeteneği önemli güvenlik riskleri oluşturuyor. Bu teknoloji gelişmeye devam ettikçe, kötüye kullanım ve gizlilik ihlalleri ile ilgili endişelerin artması muhtemel.
Yorumlar