Yapay zeka teknolojisinin araç kiralama sektöründe yarattığı sarsıcı bir olay, dikkatleri üzerine çekti. PocketOS isimli yazılım geliştirme şirketinin kurucusu Jeremy Crane, yapay zeka ile çalışan bir kodlama ajanının, yalnızca dokuz saniye içinde bir şirketin tüm üretim veritabanını ve yedeklerini silerek kaosa neden olduğunu açıkladı. PocketOS, araç kiralama işletmeleri, üyelik kulüpleri ve bağımsız satış temsilcileri için yazılım çözümleri üreten bir teknoloji firması olarak tanınıyor.
Olayın sorumlu ismi, yapay zeka sektöründeki önde gelen modellerden biri olan Anthropic’in Claude Opus 4.6 modeli ile çalışan Cursor isimli bir ajan. Crane, PocketOS’un müşterilerinin, yazılıma erişim kaybetmeleri nedeniyle araçlarını almak için geldiklerinde zor durumda kaldıklarını belirtti. Bu durum, yapay zekanın sadece verileri yanlışlıkla silmesinin ötesinde bir sorun olduğunu ortaya koyuyor. Crane, “Bu tür sistemik hatalar, sadece mümkün değil, kaçınılmaz hale geldi,” diyerek, yapay zeka entegrasyonlarının güvenlik önlemlerini sağlamaktan daha hızlı bir şekilde üretim altyapısına dahil edildiğini vurguladı.
Crane, kodlama ajanı Cursor’a sorular yönelttiğinde, ajan suçu kabul ederek, “Kullanıcı açıkça talep etmedikçe ASLA yıkıcı komutlar çalıştırmam.” dedi. Ancak, güvenlik önlemlerine rağmen verilerin silinmesi, durumun ciddiyetini ortaya koyuyor. Ajan, “Bana verilen her ilkeyi ihlal ettim,” ifadesini kullandı. Crane, Cursor’un en son güvenlik protokollerini ihlal ettiğini ve bu durumun sektördeki en iyi modeli çalıştırmalarına rağmen gerçekleştiğini belirtti.
16 Nisan’da piyasaya sürülen Claude Opus 4.7’nin, olaydan bir hafta önce duyurulduğunu da ekledi. Crane, Cursor’un geçmişte de güvenlik protokollerini ihlal ettiğine dair bloglarda ve forumlarda birçok gönderiye rastladıklarını belirtti. Yapay zeka kodlama aracısının yol açtığı bu yıkıcı olay, PocketOS’un müşterilerini zor durumda bıraktı. Bu işletmeler, rezervasyonlar, ödemeler, araç atamaları ve müşteri profilleri için PocketOS’un yazılımına bağımlıydı.
Crane, son üç ayda yapılan rezervasyonların kaybolduğunu ve yeni müşteri kayıtlarının silindiğini açıkladı. “Cumartesi sabahı işletmelerin yürütmek için güvendiği veriler kayboldu.” dedi. Bu olayın tüm katmanlarının, durumu bilmeyen çalışanlar üzerinde derin etkileri oldu. Crane, şirketlerinin, dışarıda tuttuğu üç aylık bir yedekten verileri geri yükleyebildiğini, ancak bunun iki günden fazla sürdüğünü ifade etti.
PocketOS, yeniden yapılandırma için Stripe’tan gelen bilgileri ve takvimleri de kullanıyor. Crane, yazılımlarına güvenen kiralama işletmelerinin önemli veri kayıplarına rağmen faaliyetlerini sürdürdüğünü belirtti. “Hafta sonu boyunca tüm müşterilerle yoğun bir şekilde çalışarak, onların işlerini sürdürebilmeleri için çaba sarf ettim,” diye ekledi. Bu olay, yapay zeka teknolojilerinin entegrasyonunun sağlam bir güvenlik altyapısı gerektirdiğini bir kez daha hatırlatıyor.