OpenAI’nin uzun süreli baş bilim insanı olan Sutskever, SSI’yi eski Y Combinator ortağı Daniel Gross ve eski OpenAI mühendisi Daniel Levy ile birlikte kurdu.
Sutskever, OpenAI’deki “süper zeki” AI sistemlerinin yükselişiyle AI güvenliğini geliştirme çabalarının ayrılmaz bir parçasıydı. Bu alanda OpenAI’in Süper Hizalama ekibini birlikte yöneten Jan Leike ile çalıştı. Ancak hem Sutskever hem de Leike, AI güvenliğine yaklaşım konusundaki OpenAI liderliği ile yaşanan dramatik bir anlaşmazlığın ardından Mayıs ayında şirketten ayrıldılar. Leike şu anda rakip AI şirketi Anthropic’te bir ekibi yönetiyor.
Sutskever uzun zamandır AI güvenliğinin daha zorlu yönlerine dikkat çekiyor. 2023’te Leike ile birlikte yazdığı bir blog yazısında, insanlardan daha üstün zekaya sahip AI‘in on yıl içinde gelebileceğini ve geldiğinde mutlaka iyi huylu olmayacağını öngörmüş ve bu nedenle kontrol edilip sınırlandırılma yollarının araştırılmasının gerekliliğini vurgulamıştı.
Açıkça görülüyor ki Sutskever, bu davaya olan bağlılığını hala sürdürüyor. Çarşamba öğleden sonra, Sutskever’in yeni şirketinin kuruluşunu duyuran bir tweet’te şu ifadeler yer aldı: “Yetenekleri mümkün olan en hızlı şekilde ilerletmeyi planlıyoruz ve bu sırada güvenliğimizin her zaman önde olmasını sağlayacağız. Bu şekilde, huzur içinde ölçeklenebiliriz. Tekil odağımız, yönetim yükü veya ürün döngüleri tarafından dikkatimizin dağılmasını engeller ve iş modelimiz, güvenlik, emniyet ve ilerlemenin kısa vadeli ticari baskılardan korunmasını sağlar.”
Sutskever, Bloomberg ile yeni şirket hakkında daha detaylı konuştu, ancak finansman durumu veya değerlemesi hakkında konuşmaktan kaçındı.
Daha belirgin olan şey, OpenAI’den farklı olarak (2015’te kar amacı gütmeyen bir kuruluş olarak başlatılmış, ardından hesaplama gücü için gereken büyük miktarda para daha belirgin hale geldiğinde yeniden yapılandırılmıştı) SSI’ın baştan itibaren kar amacı güden bir şirket olarak tasarlanmasıdır. Yapay zeka konusundaki ilgi ve ekibin nitelikleri göz önüne alındığında, yakında büyük miktarda sermaye ile boğulabilir. Gross, Bloomberg’e şunları söyledi: “Karşılaştığımız tüm sorunlar arasında, sermaye artırmak bunlardan biri olmayacak.”
SSI’ın Palo Alto ve Tel Aviv’de ofisleri var ve şu anda teknik yetenekler için işe alım yapıyor.