Builder.ai ve yapay zeka aldatmacası

Builder.ai, Natasha adını verdiği yapay zeka sistemiyle yazılım geliştirmeyi otomatize ettiğini iddia etti. Ancak ortaya çıkan belgeler, bu sistemin arkasında yapay zeka değil, Hindistan merkezli yazılımcıların olduğu gerçeğini gün yüzüne çıkardı.

Builder.ai neyi vaat etti ve Natasha nasıl tanıtıldı

Builder.ai, teknik bilgisi olmayan kullanıcıların bile kolayca yazılım geliştirebileceği bir sistem sunduğunu açıkladı. Natasha adını verdiği yapay zeka motorunun, kullanıcıdan gelen girdilere göre otomatik olarak kod ürettiği öne sürüldü. Sistem, karmaşık yazılım süreçlerini sadeleştiriyor, kullanıcıya sadece fikir vermek kalıyordu. Bu yapay zeka; maliyet, hız ve erişilebilirlik açısından devrimsel bir teknoloji olarak pazarlandı. Şirketin pazarlama materyallerinde Natasha, tamamen otonom ve insana ihtiyaç duymayan bir sistem olarak gösterildi.

Bu sistemin tanıtımında, Natasha’nın binlerce satır kodu analiz edebildiği ve yapay zekayla yazılım geliştirme sürecini yüzde 90 oranında hızlandırdığı iddia edildi. Builder.ai, bu özelliklerin geleneksel yazılım geliştirme yöntemlerine göre çok daha etkili olduğunu vurguladı. Kullanıcılar, yalnızca istedikleri uygulama türünü tarif ederek Natasha'nın kısa sürede yazılımı oluşturmasını bekliyordu. Şirket, süreci o kadar otomatikleştirilmiş gösterdi ki, insan müdahalesine gerek kalmadığına inandırdı. Bu durum kısa sürede büyük yatırımcıların ilgisini çekti.

Sızdırılan belgeler Natasha’nın gerçek yapısını ortaya çıkardı

İlk şüpheler, eski çalışanların şirketten ayrıldıktan sonra basına bilgi sızdırmasıyla başladı. The Information tarafından yayınlanan belgeler, Natasha’nın yapay zeka olmadığına dair net kanıtlar sundu. Bu belgelerde, Natasha adına verilen işlerin arka planda Hindistan’daki yazılımcılar tarafından manuel olarak yapıldığı görülüyordu. Yazılım talepleri Natasha arayüzü üzerinden alınıyor, ardından bu talepler insan geliştiricilere yönlendiriliyordu. Müşterilerle yapılan yazışmalarda da bu durum gizleniyor, sistemin yapay zeka olduğu iddiası sürdürülüyordu.

İç yazışmalar, Natasha’nın aslında bir “insan + otomasyon” sistemi olduğunu gösterdi. Otomasyon yalnızca bazı şablonları oluşturmakla sınırlıydı; özgün yazılım işleri tamamen geliştiriciler tarafından yürütülüyordu. Bu süreçte geliştiricilerin, Natasha adı altında müşteriyle birebir yazıştıkları da ortaya çıktı. Builder.ai yönetimi ise dış dünyaya bunun tam otomatik bir yapay zeka olduğunu aktarmaya devam etti. Bu yanıltıcı yapı, kamuoyunun yanı sıra yatırımcıların da güvenini sarstı.

Microsoft neden projeyi iptal etti

Builder.ai, 2023 yılında Microsoft’tan 455 milyon dolarlık yatırım alarak dikkatleri üzerine çekti. Microsoft’un amacı, Natasha sistemini Azure altyapısına entegre ederek müşterilerine yapay zeka tabanlı yazılım geliştirme çözümleri sunmaktı. Proje duyurulduktan sonra Builder.ai’nin değeri 1,5 milyar dolara ulaştı. Ancak The Information raporu sonrası Microsoft, projeye dair kapsamlı bir iç soruşturma başlattı. Bulgular doğrultusunda Natasha’nın yapay zeka iddialarının doğruluğu sorgulanmaya başlandı.

Microsoft’un özellikle etik, güvenlik ve şeffaflık konularına verdiği önem, bu projenin devamını imkânsız kıldı. Builder.ai’nin şeffaf olmayan yapısı ve müşterileri yanıltması Microsoft’un iş ortaklığı kriterleriyle bağdaşmadı. Yapay zeka altyapısında güven, doğruluk ve veri şeffaflığı en önemli kriterler arasında yer alıyor. Builder.ai bu standartları karşılamadığı için Microsoft, Natasha’yı Azure’dan çıkarma kararı aldı. Projenin iptaliyle birlikte Builder.ai’nin sektördeki itibarı ciddi şekilde zedelendi.

Geliştirici ekipler nasıl çalıştı ve işleyiş nasıldı

Builder.ai içinde görev yapan geliştiriciler, Hindistan merkezli geniş bir ekipten oluşuyordu. Bu ekip, Natasha sistemine gelen talepleri manuel olarak işliyordu. Sistem müşteriden gelen bilgileri işleme koyuyor, ardından bu bilgiler özel geliştirici gruplarına yönlendiriliyordu. Geliştiriciler, müşteriyle doğrudan Natasha kimliğiyle iletişim kuruyor, çıkan soruları yanıtlıyor ve yazılım üzerinde çalışıyordu. Bu model, dışarıdan bakıldığında bir yapay zeka izlenimi yaratıyordu.

Yazılım üretimi sürecinde yalnızca birkaç adım otomatik hale getirilmişti. Geri kalan tüm aşamalarda insan müdahalesi mevcuttu. Geliştiriciler, iş yükünün yüksek olmasından şikayet ederken, Natasha arayüzünün yalnızca bir “cephe” işlevi gördüğünü ifade ettiler. Sistem, gerçekte vaat edilen otonom yapay zeka mantığından çok uzaktı. Bu gerçek, şirketin sunduğu hizmetin gerçekte ne kadar “yapay” olduğuna dair ciddi soru işaretleri doğurdu.

Yatırımcılar ve müşteriler nasıl tepki verdi

Builder.ai’nin yapay zeka iddialarının çürütülmesi, yatırımcıların projeye olan güvenini hızla azalttı. Şirketin değerlemesi birkaç ay içinde büyük düşüş yaşadı. 455 milyon dolarlık yatırım yapan Microsoft, kamuoyuna net bir açıklama yapmasa da projeden geri çekildi. Diğer yatırımcılar da riskleri minimize etmek adına şirketle olan finansal ilişkilerini gözden geçirmeye başladı. Özellikle Natasha sistemine bağlı ürünlerin iptal edildiği raporlandı.

Müşteriler cephesinde de ciddi hayal kırıklığı yaşandı. Sistemin yapay zeka değil insan müdahalesiyle yürütüldüğünü öğrenen birçok kullanıcı destek taleplerini geri çekti. Sosyal medya platformlarında bu durum yaygın şekilde tartışıldı ve Builder.ai’nin müşteri puanları düşmeye başladı. Şirketin pazarlama stratejisi ve sunulan hizmetin birbirini tutmaması, güven krizini derinleştirdi. Özellikle startup dünyasında bu olay “sahte yapay zeka” örneği olarak literatüre girdi.