Yazan: BitPush
Silikon Vadisi'nin en pahalı "ayrılık davası"nın detayları sonunda ortaya çıktı.
Geçtiğimiz günlerde The Atlantic Monthly, Amerikalı çok satan yazar ve podcast sunucusu Kevin Roose'un yeni kitabı "The AGI Chronicles"dan ilk alıntıyı yayınladı. Bu kitap için Roose, Silikon Vadisi'ndeki en sansasyonel ayrılığın parçalarını bir araya getirmek amacıyla OpenAI, Anthropic ve Google DeepMind'dan 150'den fazla kişinin yanı sıra çok sayıda açıklanmayan şirket belgesi ve şirket içi notlarla röportaj yaptı.
Dario Amodei'nin 2020'nin sonunda bir grup insanla birlikte OpenAI'den ayrılıp Anthropic'i kurduğunu biliyorsanız, bu buzdağının sadece görünen kısmı. İnsanları asıl şok eden şey, ayrılmadan önceki "saray kavgası"ydı.
“Ulusal Proje”: AGI'yi Açık Artırma İçin Çılgın Bir Teklif
Amodei'nin bir zamanlar OpenAI için yüksek beklentileri vardı. 2016 yılında kâr amacı gütmeyen genç araştırma kuruluşuna katılmak için Google'dan ayrıldı. Roose'un anlatımına göre kendisi, OpenAI'yi geniş dil modeli rotasına doğru itmede önemli bir figürdü ve liderliğini yaptığı ekip GPT-2 ve GPT-3'ün geliştirilmesine katıldı.
Araştırma ilerledikçe Amodei, daha büyük ölçekli modellerin AGI'ye (yapay genel zeka) yol açabileceğine giderek daha fazla ikna oluyor. Ancak aynı zamanda şirketin liderliğine olan güveni de azalmaya devam etti.
Onu rahatsız eden ilk şeylerden biri 2017'de oldu.
O dönemde Musk'ın OpenAI'ye olan mali desteği azalmaya başladı ve laboratuvarın acilen yeni bir çıkış yolu bulması gerekiyordu. Kurucu ortak Greg Brockman ve baş bilim insanı Ilya Sutskever, "ülke planı" olarak bilinen bir iç plan ortaya attılar.
Bu plan başlangıçta oldukça makuldü. Fikir uluslararası bir ittifak oluşturmaktı ve herkes YGZ'nin risklerini ortaklaşa yönetecek ve faydaları paylaşacaktı.
Ancak Brockman ve Sutskever bunu şirket içi bir toplantıda resmi olarak çalışanlara sunduğunda, resim tamamen ters gitmişti: Gelecekteki YGZ teknolojisini kullanma haklarının ABD, Çin ve Rusya da dahil olmak üzere çeşitli hükümetlere "açık arttırmayla" satıldığı bir bağış toplama etkinliğine dönüşmüştü.
İki kişinin mantığı şu: YGZ ulusal güvenliği içeriyor ve er ya da geç hükümetler onu yaratan şirketin elinden alacak. Zaten vermek zorunda olduğunuz için, paranız yokken daha iyi bir fiyata satmak daha iyidir.
Gösteriyi duyan içeriden biri şikayette bulundu: "Birkaç teknoloji insanının çılgın bir girişimcilik projesi satması gibiydi ve cümlenin sonunda faturayı hükümetin ödemesine izin verin."
Dario Amodei o sırada OpenAI'nin araştırmadan sorumlu başkan yardımcısıydı. Bunu duyduktan sonra doğrudan Brockman, Sutskever ve diğer yöneticilere oldukça açık sözlü bir e-posta gönderdi. Bir e-postasında, planın "silahlanma yarışını azaltmak yerine daha da kötüleştireceğini", "insan hakları vahşetlerine yol açabileceğini", bu da onların kendi halkına karşı "ağızsız şeyler" yapmalarına olanak tanıyacağını ve "OpenAI'nin ahlaki meşruiyetini zayıflatacağını" yazdı.
İnsanların diline çevrilmişse: İnsanlığın en güçlü teknolojisini onlara satmak ister misiniz? Çılgın ol.
Neyse ki Microsoft'un daha sonra yaptığı büyük yatırım günü kurtardı ve bu plan sonuçta meyvesini vermedi. OpenAI'nin yanıtı, şirketin "OpenAI'yi uluslararası bir işbirliğine dönüştürüp dönüştürmeyeceğini kısaca değerlendirdiği" ancak "AGI'yi Çin veya Rusya'ya satmayı düşünmediği" şeklinde oldu.
Plan hiçbir zaman meyvesini vermedi, ancak Amodei yönetimin kendisinin bu kadar sakıncalı bulduğu bir fikri ciddi şekilde tartıştığını asla unutmadı.
Microsoft'tan Kanye West'e güven uçurumu derinleşiyor
O zamandan beri, görünüşte daha küçük şeyler onun güvensizliğini derinleştirmeye devam etti.
GPT-3 dahili betası sırasında Amodei, Altman'dan modeli kullanmasına izin verilen müşterilerin bir listesini istedi. Altman ona bir liste verdi ancak Amodei daha sonra daha uzun bir liste bulduğunu iddia ediyor. Gördüğü bilgilerin filtrelendiğinden şüphelenmeye başladı.
Microsoft'un yatırımıyla ilgili bir anlaşmazlık şüphelerini derinleştirdi.
OpenAI'nin kamu sözleşmesinde oldukça özel bir anlaşma var: Tutarlı değerlere ve güvenliğe vurgu yapan bir proje ilk olarak AGI'nin gerçekleştirilmesine yaklaşırsa, OpenAI onunla rekabet etmeyi bırakacak ve bunun yerine diğer tarafa yardım edecektir. Bu, bazı durumlarda şirketin misyonunun oyunu kazanmaktan öncelikli olması gerektiği anlamına gelir.
Roose'un yeni kitabına göre Amodei, Microsoft ile 1 milyar dolarlık bir yatırım için pazarlık yaparken, Microsoft'un bu taahhüdü uygulamak için kullanılabilecek OpenAI satın alımını kabul etmesini sağlamak istiyordu. Altman ona Microsoft'un koşulları kabul etmediğini söyledi.
Amodei bunun bu kadar basit olduğuna inanmıyor. Anlaşmayı olabildiğince çabuk kolaylaştırmak için Altman'ın mücadeleden vazgeçmiş, hatta hiçbir talepte bulunmamış, ancak sorumluluğu Microsoft'a devretmiş olabileceğinden şüpheleniyordu.
Amodei'nin gözünde, sorunun iş görüşmeleri yoluyla çözülmesi giderek zorlaşıyor: Karşısında oturan Altman'ın kendisine müzakere sürecinin tamamını açıklamaya istekli olup olmadığından şüphe etmeye başladı.
Daha sonra Hitler'e olan hayranlığını açıkça ifade eden rapçi Kanye West, 2020'de tesadüfen sürekli biriken bu şikayet listesinde yer aldı.
Roose, konuya aşina olan iki kişinin, Altman'ın Kanye ile görüştükten sonra kendisine GPT-3'ün özel beta testine katılmasına izin vermeyi teklif ettiğini söylediğini aktardı.
O zamanlar GPT-3 henüz halka açıklanmamıştı ve OpenAI'nin temel varlığıydı. O dönemde OpenAI'nin politika direktörü Jack Clark teklifi durdurdu. Kanye'nin yakın zamanda Grammy Ödülü üzerine işediği anlaşılan bir video yayınladığını ve kamuoyundaki davranışının endişe verici olduğunu belirtti. Daha sonra Kanye'nin Hitler'e olan hayranlığını açıkça ifade etmesi uzun sürmedi.
Bu davet başarısızlıkla sonuçlandı ancak Amodei'nin Altman'ın kararından duyduğu memnuniyetsizliği daha da artırdı. Roose, benzer olayların çoğunun tek başına istifa etmesi için yeterli olmadığını, ancak birikimin Altman'ın AGI gibi güçlü bir teknolojide ustalaşmaya uygun olduğuna inanmasını zorlaştırdığını yazdı.
Roose kitapta 2020 yılına gelindiğinde Amodei'nin OpenAI'nin liderliği konusunda tamamen hayal kırıklığına uğradığını açıkladı. Altman'ı "iki yüzlü bir manipülatör" olarak tanımladı ve Brockman'ın "güce aç ve pervasız" olduğuna inanıyordu.
Aslında aralarındaki temel çatışma sadece iki kelimeden oluşuyor: güven.
Amodei'nin OpenAI'deki görev süresi boyunca özel bir günlük tuttuğu ve Altman'ın kendisini yanılttığını hissettiği anları yazdığı söyleniyor.
Bir notta şunu yazdı: "OpenAI'nin sorunu Sam'in kendisinde."
Çeteler ve küçük gruplar mı oluşturuyorsunuz?
Öte yandan OpenAI içerisinde Amodei'ye tahammül edemeyen insanlar da var.
Roose'un raporuna göre Amodei ve kız kardeşi Daniela, yavaş yavaş benzer fikirlere sahip bir grup meslektaşı bir araya getirdi. Özel sohbet kanalları kurdular, ayrı ayrı toplantılar yaptılar, güvenlik konularını sık sık tartıştılar. Çevrenin dışındaki bazı çalışanların bakış açısına göre, bu grup insanla çalışmak giderek zorlaşıyor.
Eski bir meslektaşı, Roose'a, Amodei'nin, sanki sadece güvenlikten bahsetmek tartışmayı sona erdirmeliymiş gibi, sıklıkla belirli bir seçimin ahlaki açıdan doğru olduğuna karar verdiğinden şikayet etti. Bu durum diğer takımları da rahatsız etti.
Amodei, iş hedeflerinin her zaman güvenlik taahhütlerinin gölgesinde kalacağını düşünüyor; bazı meslektaşları onun güvenliği çürütülmesi zor bir argümana dönüştürdüğüne inanıyor. İki taraf arasındaki memnuniyetsizlik belirli kararlardan çalışma yöntemlerine ve kişilik yargılarına kadar yayıldı.
Sonuçta çatışma tek bir gerçek güce odaklandı: Güvenlik ekibi yeni bir ürünün piyasaya sürülmesini veto edebilir mi?
Roose'a göre Amodei, Altman'a ayrılmadan önce burada kalması için güvenlik ekibine veto yetkisi verilmesi de dahil olmak üzere bir dizi koşul önerdi. Çekirdek araştırmacıların muhtemelen toplu olarak ayrılma baskısının Altman'ı değişimi kabul etmeye sevk edeceğini umuyor.
Gizli grup sohbetinde "aile ayrılığına" geri sayım başlıyor
Müzakereler devam ederken bir yandan da geri çekilme hazırlıkları yapılıyordu.
Amodei ve altı meslektaşı, Müzakereler Bir Anlaşmaya Ulaşamadığında En İyi Alternatifler anlamına gelen "BATNA" adında özel bir Slack kanalı kurdu. Üyeler arasında kız kardeş Daniela'nın yanı sıra Jack Clark, Sam McCandlish, Tom Brown, Chris Olah ve Jared Kaplan yer alıyor.
Bu grubun adı o dönemdeki durumlarını gösteriyor: hâlâ konuşuyor ama ayrılmaya hazır.
Saklama koşulları müzakere edilemeyince, her iki taraf da avukat tuttu ve dahili olarak boşanma olarak adlandırılan şeyi müzakere etmeye başladı.
Roose'un raporuna göre Altman, bir yıl içinde insanları kaçırmamaları karşılığında bu insanlara OpenAI çalışanlarını işe almaları için birkaç hafta vermeyi kabul etti; iki taraf da birbirlerini kamuoyu önünde kötülememe konusunda anlaştılar.
Aralık 2020'de OpenAI tüm çalışanlar için çevrimiçi bir toplantı düzenledi.
Başlangıç her zamanki gibi görünüyor. Altman araştırmanın ilerleyişini bildirdi, yeni çalışanları tanıttı ve ardından mesajı Amodei'ye iletti.
Daha sonra Amodei, kendisi ve diğer altı liderin yapay zeka güvenliğine odaklanan yeni bir organizasyon kurmak için ayrılacağını duyurdu.
Roose'un açıklamasına göre sohbet penceresi hızla sürpriz mesajlar ve ifadelerle doldu. Toplantının sonunda Jack Clark sohbet kutusuna bir satır yazdı: "Hepinizi seviyorum" ve ardından ekran aniden karardı.
Dario Amodei ve kız kardeşi Daniela Amodei de dahil olmak üzere OpenAI'nin yedi çekirdek üyesi aynı anda toplantıdan atıldı ve e-posta ve Slack izinleri anında iptal edildi.
Daha sonra 2021'in başlarında Anthropic kuruldu.
Kırgınlık ne zaman sona erdi?
Ve yeni bir işe başlamak, Amodei'nin kendisini rahatsız eden sorunlardan kurtulmasına izin vermedi.
Anthropic'in ayrıca fon toplaması, bilgi işlem gücünü genişletmesi ve daha güçlü modeller geliştirmesi gerekiyor. Yalnızca en son teknolojiye hakim olarak en ileri riskleri inceleyebiliriz; ancak en ileri seviyede kalabilmek için yatırım yapmaya devam etmeli ve rakiplerin peşinde koşmalıyız. Şirket büyüdükçe Amodei'nin tanıdık bir soruyu yanıtlaması gerekiyor: Güvenlik, iş ve rekabet çatıştığında hangisi önce çöker?
İki taraf arasındaki karşılıklı kırgınlık hiçbir şekilde ortadan kalkmadı.
Konuya aşina olan kişiler, Amodei'nin bir zamanlar Altman ve OpenAI'yi "kötü" olarak tanımladığını söyledi; aynı zamanda OpenAI içindeki bazı kişiler de Amodei kardeşlerin kendilerini ahlaki modeller olarak paketledikleri, ancak aynı derecede güce meraklı olduklarına da inanıyordu; Anthropic'in yarışmaya katılımını hızlandırırken yapay zeka risklerine ilişkin kamuya açık uyarısından özellikle memnun değillerdi.
Kitapta Roose, bu yapay zeka liderlerini "karışık bir düşmanlığın örümcek ağı" olarak tanımlıyor: Hassabis Altman'a, Amodei Altman'a, Altman Amodei'ye ve Altman da Musk'a tepeden bakıyor.
Birkaç yıl geçti ama bu ağ çözülmedi. Bunun yerine her birinin yeni dertleri var. Bloomberg'e göre Anthropic, 2 trilyon ABD dolarına varan hedef değerlemeyle Kasım ortasında halka açılmayı planlıyor; ancak izahname başka bir tarafı da gösteriyor: 2025'teki gelir yaklaşık 4,6 milyar ABD doları olacak, ancak işletme zararları 8 milyar ABD dolarını aşacak ve gelecekte bilgi işlem gücü oluşturmak için 500 milyar ABD dolarından fazla yatırım yapma sözü verildi. Altman, halka arz konusunda temkinli davranarak güvenlik ve uyum çözülmeden önce halka açılmak için acele edilmediğini ancak OpenAI'nin son zamanlarda AI güvenlik olaylarından da rahatsız olduğunu söyledi.
Amodei, Altman'a güvenmediği için ayrıldı ve güvenlik vaatlerinin gerçekten önemli olduğu bir şirket kurmak istedi. Şimdi kendi şirketi de aynı sorunla yüzleşmek zorunda: Büyümenin sürdürülebilirliği + güvenlik kaygıları, iki taraf da gevşetilemez. Bu soruyu henüz teslim etmediler.