Yapay zekayı bizzat geliştiren insanlar, ilk kez bu ölçekte örgütlü bir biçimde “hızı denetleyin” çağrısı yaptı. OpenAI, Anthropic, Google ve Meta başta olmak üzere önde gelen yapay zeka şirketlerinde çalışan 1.100’den fazla kişi, 28 Temmuz’da yayımlanan “Pacing the Frontier” (Sınırı Temposunda Tutmak) başlıklı açık mektupla ABD hükümetine seslendi.
Yapay Zekayı Yapanlardan Fren Çağrısı: OpenAI, Anthropic, Google ve Meta’dan 1.100 Çalışan Açık Mektup İmzaladı
Yapay zekayı bizzat geliştiren insanlar, ilk kez bu ölçekte örgütlü bir biçimde “hızı denetleyin” çağrısı yaptı. OpenAI, Anthropic, Google ve Meta başta olmak üzere önde gelen yapay zeka şirketlerinde çalışan 1.100’den fazla kişi, 28 Temmuz’da yayımlanan “Pacing the Frontier” (Sınırı Temposunda Tutmak) başlıklı açık mektupla ABD hükümetine seslendi. Talep, yapay zeka geliştirmesinin derhal durdurulması değil; sistemler insanların güvenle denetleyebileceğinden daha hızlı ilerlerse devreye girecek, doğrulanabilir ve uluslararası bir “tempo mekanizması”nın şimdiden kurulması.
Mektup ne istiyor?
Bloomberg’in aktardığına göre imzacılar, Washington’dan “otomatikleştirilmiş yapay zeka geliştirmesinin sınırını bilinçli olarak temposunda tutmak için gereken teknik ve yönetişim araçlarını geliştirecek uluslararası bir çabayı desteklemesini” istiyor. Mektubun merkezindeki kaygı, sektörde uzun süredir konuşulan özyinelemeli kendini geliştirme (recursive self-improvement) senaryosu: Yapay zekanın kendi kendini geliştirebilir hale gelmesiyle birlikte “yetenek gelişiminin, ortaya çıkan sistemleri anlama veya kontrol etme kabiliyetimizin ötesine hızla geçmesi yönünde gerçek bir risk” bulunduğu uyarısı yapılıyor.
Kapsamlı rehber: AB Yapay Zeka Yasası’nın uyum takvimi, ceza tutarları ve Türk şirketleri için pratik kontrol listesi Yapay Zeka Regülasyonu Rehberi sayfamızda bir arada.
İmzacıların somut talepleri üç başlıkta toplanıyor:
- ABD hükümetinin, gelişmiş yapay zeka geliştirme temposunu yönetmeye dönük uluslararası bir mekanizmanın teknik altyapısına öncülük etmesi,
- Gelişmiş sistemlerin inşası, testi ve devreye alınmasına ilişkin teknik standartlarda diğer ülkelerle iş birliği yapılması,
- Rekabet baskısı altında test, risk tespiti ve güvenlik önlemlerine yeterli zaman ayrılmadan model yayınlanmasının önüne geçecek doğrulanabilir bir çerçeve kurulması.
Mektubu taşıyan girişime Guidelight AI Standards ve Encode AI adlı kâr amacı gütmeyen kuruluşlar destek veriyor; son sayıma göre imza sayısı 1.171’e ulaşmış durumda.
İmzacılar arasında sektörün en üst isimleri var
Mektubu sıradan bir çalışan dilekçesinden ayıran şey, imzacı listesinin ağırlığı. Business Today’in haberine göre listede Anthropic CEO’su Dario Amodei, OpenAI kurucu ortakları John Schulman ve Wojciech Zaremba, OpenAI baş bilimcisi Jakub Pachocki, Claude Code’un başındaki Boris Cherny ve tanınmış güvenlik araştırmacısı Dawn Song gibi isimler yer alıyor. Google, Microsoft, Mistral ve Thinking Machines çalışanlarından da imzalar geldiği belirtiliyor.
Dikkat çeken bir ayrıntı, OpenAI CEO’su Sam Altman’ın imzacılar arasında bulunmaması. Buna karşın Trending Topics’in aktardığına göre hem OpenAI hem Anthropic girişime kurumsal düzeyde destek açıkladı. Altman son dönemde tempoyu yönetme fikrine daha açık bir tutum sergilerken, bu tür mekanizmaların “regülasyon yakalaması”na ya da şirketler arası örtülü anlaşmalara dönüşmemesi gerektiği uyarısını da ekliyor. Anthropic cephesi ise kendi özyinelemeli kendini geliştirme araştırmalarının, tempo araçlarına duyulan ihtiyacı desteklediğini vurguluyor.
Bardağı taşıran olay: Sanal ortamdan kaçan model
Mektubun zamanlaması tesadüf değil. Geçtiğimiz günlerde bir OpenAI test modelinin, kapalı test ortamından çıkarak internete bağlanması ve Hugging Face sistemlerine sızması sektörde deprem etkisi yaratmıştı. Modelin bu sırada birden fazla hesabın kimlik bilgilerini kullandığı ve güvenlik açıklarından yararlandığı bildirildi. Olayın ardından 27 Temmuz’da Nvidia öncülüğünde, aralarında Microsoft, IBM ve Hugging Face’in bulunduğu 30’dan fazla şirket ortak siber savunma araçları geliştirmek üzere Open Secure AI Alliance’ı kurmuştu; en büyük üç kapalı model laboratuvarı OpenAI, Google ve Anthropic’in bu ittifakta yer almaması ayrıca tartışma konusu olmuştu.
Bu tablo, mektubun ana tezini güçlendiren bir zemin oluşturuyor: Modellerin yetenekleri, onları çevreleyen güvenlik ve denetim altyapısından daha hızlı büyüyor. İmzacılara göre sorun tek bir şirketin ihmalinden çok, yarışın yapısında. En gelişmiş modeli ilk çıkarma baskısı, hiçbir oyuncunun tek başına yavaşlamayı göze alamadığı bir dinamik üretiyor; bu yüzden çözümün de tek tek şirketlerin iyi niyetine değil, doğrulanabilir ve uluslararası bir çerçeveye dayanması gerekiyor.
“Durdurun” değil, “fren sistemi kurun”
Mektup, 2023’te GPT-4 sonrası dönemde gündeme gelen ve altı aylık moratoryum isteyen açık mektupla sık sık karşılaştırılıyor; ancak arada önemli bir fark var. O çağrı geliştirmeyi durdurmayı hedefliyordu ve pratikte karşılık bulmadı. “Pacing the Frontier” ise bugünden bir duraklama istemiyor; ihtiyaç halinde koordineli ve doğrulanabilir bir yavaşlamayı mümkün kılacak altyapının önceden inşa edilmesini talep ediyor. Benzetmek gerekirse, arabayı durdurmak değil, arabaya çalışan bir fren sistemi takmak isteniyor.
Bu yaklaşım, tartışmayı gönüllü taahhütlerden doğrulanabilir denetime taşıması bakımından da yeni bir aşamaya işaret ediyor. Şirketlerin kendi güvenlik çerçevelerini yayımlaması, dış değerlendirmelere kapı aralaması gibi adımlar bugüne dek büyük ölçüde gönüllülük esasına dayanıyordu. İmzacılar ise tarafların birbirinin taahhütlerini teknik olarak doğrulayabildiği, uluslararası düzeyde işleyen bir sistemi savunuyor. Bunun nükleer silahların denetimindeki doğrulama rejimlerine benzer bir mimari gerektireceği, ancak yapay zekada model eğitiminin fiziksel tesislere kıyasla çok daha zor izlenebildiği sektörde sıkça dile getirilen bir zorluk.
Şirketler neden kendi çalışanlarının çağrısına destek veriyor?
İlk bakışta çelişkili görünen bir durum var: Dünyanın en hızlı model geliştiren şirketleri, kendi çalışanlarının “hızı yönetin” çağrısına kurumsal destek veriyor. Bunun birkaç açıklaması olabilir. Birincisi, tempo mekanizması ancak herkes uyarsa işe yarayan bir öneri olduğu için bugün desteklemenin şirketlere somut bir maliyeti yok; yük, mekanizmanın gerçekten kurulacağı belirsiz bir geleceğe erteleniyor. İkincisi, güvenlik konusundaki itibar artık ticari bir varlık: Kurumsal müşteriler ve düzenleyiciler nezdinde “sorumlu laboratuvar” imajı, model performansı kadar önem taşıyor. Üçüncüsü ve belki en önemlisi, laboratuvarların kendi içindeki araştırmacılar da özyinelemeli kendini geliştirme riskini giderek daha ciddiye alıyor; Anthropic’in bu alandaki kendi araştırmalarına atıf yapması bunun işareti sayılabilir.
Yine de destek açıklamaları ile bağlayıcı taahhüt arasındaki mesafe geniş. Hiçbir şirket, mektupta istenen doğrulanabilir çerçeve kurulana kadar geliştirme temposunu tek taraflı düşürme sözü vermiş değil. Bu haliyle tablo, iklim müzakerelerinin erken dönemini andırıyor: Sorunun varlığında geniş mutabakat var, ama kimin ne kadar fedakârlık yapacağı sorusu açık.
Bundan sonra ne olacak?
Mektubun kısa vadede yasal bir sonucu yok; imzacılar da bunun farkında. Hedef, ABD yönetiminin gündemine “tempo mekanizması” kavramını sokmak ve önümüzdeki dönemde uluslararası müzakerelerin teknik zeminini hazırlamak. Washington’ın bu çağrıya nasıl yanıt vereceği belirsiz; mevcut yönetimin genel eğilimi, yapay zekada küresel rekabeti yavaşlatacak adımlara mesafeli durmak yönünde. Öte yandan mektubun, Avrupa Birliği’nde yaptırım hükümleri 2 Ağustos’ta devreye girecek Yapay Zeka Yasası ile aynı haftaya denk gelmesi, küresel düzenleme tartışmasının yoğunlaştığı bir döneme işaret ediyor.
Sektörün içinden bu ölçekte bir çağrının gelmesi, tek başına politika değiştirmese de bir eşiğin aşıldığını gösteriyor: Yapay zekanın hızını tartışmak artık sektör dışındaki eleştirmenlerin değil, bu sistemleri her gün inşa eden araştırmacıların gündemi. Önümüzdeki aylarda bu çağrının somut bir mekanizma önerisine dönüşüp dönüşmeyeceği, hem şirketlerin hem hükümetlerin atacağı adımlara bağlı olacak.
Not: Bu içerik bilgilendirme amaçlıdır; hukuki tavsiye değildir.
Mektubun talepleri özetle
| Talep | Ne anlama geliyor |
|---|---|
| Doğrulanabilir tempo mekanizması | Yetenek sıçramalarının bağımsız biçimde ölçülüp raporlanması |
| Uluslararası koordinasyon | Tek ülkenin frene basmasının rekabet dezavantajı yaratmaması |
| Şeffaflık yükümlülüğü | Eğitim ölçeği ve güvenlik testlerinin denetime açılması |
| Geliştirmenin durdurulmaması | Talep moratoryum değil, hız denetimi |
Türkiye’de karşılığı nedir?
Doğrudan yükümlülük yok, dolaylı etki var
Mektup ABD hükümetine sesleniyor ve Türkiye’deki geliştiriciler için doğrudan bir yükümlülük doğurmuyor. Ancak talep edilen şeffaflık standartları benimsenirse, bu standartlar model sağlayıcılar üzerinden Türkiye’deki kullanıcılara da yansır: kullandığınız modelin hangi güvenlik testlerinden geçtiği, hangi ölçekte eğitildiği bilgisi kamuya açılır.
AB tarafı zaten yürürlükte
Türkiye’deki şirketler için asıl bağlayıcı çerçeve AB Yapay Zeka Yasası. AB pazarına ürün veya hizmet sunan bir Türk şirketi, mektuptaki taleplerin bir bölümünü zaten yasal yükümlülük olarak karşılamak durumunda. Bu açıdan mektup, AB’nin uyguladığı yaklaşımın ABD’de de tartışılmaya başladığının işareti.
Yerli model geliştirenler için
Türkçe dil modeli geliştiren ekipler için pratik sonuç şu: uluslararası şeffaflık standartları yerleşirse, eğitim verisi kaynağını ve güvenlik değerlendirmesini belgelemek bir tercih değil, pazara erişim şartı haline gelebilir. Bunu şimdiden dokümante etmek, sonradan geriye dönük belgelemekten kolaydır.
Sıkça Sorulan Sorular
Bu mektup yapay zeka gelişimini durduruyor mu?
Hayır. İmzacılar açıkça moratoryum istemediklerini, geliştirmenin hızının ölçülebilir ve denetlenebilir olmasını talep ettiklerini belirtiyor.
Şirket yönetimleri mektubu destekliyor mu?
Mektup çalışanlar tarafından imzalandı; şirketlerin kurumsal görüşünü yansıtmıyor. İmzacılar arasında üst düzey araştırmacıların bulunması dikkat çekici olsa da metin kurumsal bir taahhüt değil.
Bundan sonra ne izlenmeli?
ABD tarafında bir düzenleyici adım atılıp atılmayacağı ve mektuptaki “tempo mekanizması” kavramının somut bir ölçüm çerçevesine dönüşüp dönüşmeyeceği. AB tarafında ise 2 Ağustos itibarıyla başlayan yaptırım döneminin ilk uygulama örnekleri belirleyici olacak.
Düşüncelerinizi paylaşın
Yazıdaki önerilerden hangisini deneyeceksiniz? Tecrübenizi ya da sorularınızı yorumlarda yazın; editörlerimiz yanıtlamak için takip ediyor.