Dün yeni web tarayıcımız ChatGPT Atlas'ı kullanıma sunduk. Atlas'ta ChatGPT aracısı işleri sizin için halledebilir. Bu özelliğin iş ve günlük yaşamı insanlar için nasıl daha verimli ve etkili hale getirdiğini görmek bizi heyecanlandırıyor. ChatGPT aracısı güçlü ve faydalıdır ve güvenli olacak şekilde tasarlanmıştır, ancak yine de yanlış ürünü satın almaya çalışmak veya önemli bir işlem yapmadan önce sizinle check-in yapmayı unutmak gibi (bazen şaşırtıcı!) hatalar yapabilir. Çok dikkatli bir şekilde araştırdığımız ve azalttığımız yeni ortaya çıkan risklerden biri, saldırganların aracıyı istenmeyen şekillerde davranması için kandırmaya çalışmak için web sitelerinde, e-postalarda veya diğer kaynaklarda kötü amaçlı talimatlar gizlediği hızlı enjeksiyonlardır. Saldırganların amacı, alışveriş yaparken aracının fikrini saptırmaya çalışmak kadar basit veya bir saldırganın aracının e-postanızdaki hassas bilgiler veya kimlik bilgileri gibi özel verileri alıp sızdırmasını sağlamaya çalışması kadar önemli olabilir. Uzun vadeli hedefimiz, en yetkin, güvenilir ve güvenlik bilincine sahip iş arkadaşınıza veya arkadaşınıza güvendiğiniz gibi, tarayıcınızı kullanmak için ChatGPT aracısına güvenebilmenizdir. Bunu başarmak için çok çalışıyoruz. Bu lansman için kapsamlı kırmızı ekip çalışması gerçekleştirdik, kötü amaçlı talimatları görmezden gelen modeli ödüllendirmek için yeni model eğitim teknikleri uyguladık, örtüşen korkuluklar ve güvenlik önlemleri uyguladık ve bu tür saldırıları tespit edip engellemek için yeni sistemler ekledik. Bununla birlikte, hızlı enjeksiyon, çözülmemiş bir güvenlik sorunu olmaya devam ediyor ve düşmanlarımız, ChatGPT aracısını bu saldırılara kandırmanın yollarını bulmak için önemli miktarda zaman ve kaynak harcayacak. Kullanıcılarımızı korumak ve modellerimizi bu saldırılara karşı geliştirmeye yardımcı olmak için: 1. Blok saldırı kampanyalarının farkına vardığımızda hızlı bir şekilde tespit etmemize yardımcı olması için hızlı yanıt sistemlerine öncelik verdik. 2. Ayrıca, modellerimizin, güvenlik monitörlerimizin, altyapı güvenlik kontrollerimizin ve derinlemesine savunma yoluyla bu saldırıları önlemeye yardımcı olacak diğer tekniklerin sağlamlığını artırmaya yönelik araştırmalar da dahil olmak üzere güvenlik, gizlilik ve emniyete büyük yatırımlar yapmaya devam ediyoruz. 3. Atlas'ı, kendinizi korumanıza yardımcı olacak kontroller sağlayacak şekilde tasarladık. ChatGPT aracısının sizin adınıza işlem yapmasına olanak tanıyan, ancak kimlik bilgilerinize erişimi olmayan "oturumu kapatma modu" adı verilen bir özellik ekledik. Hesaplarınızda herhangi bir işlem yapmanız gerekmediğinde bu modu öneririz. Bugün, "oturum açma modunun", hızlı enjeksiyon risklerinin daha düşük olduğu çok güvenilir sitelerdeki iyi kapsamlı eylemler için en uygun olduğunu düşünüyoruz. Bir alışveriş sepetine malzeme eklemesini istemek, genellikle "e-postalarımı gözden geçir ve gereken işlemleri yap" gibi geniş veya belirsiz bir istekten daha güvenlidir. 4. Temsilci hassas sitelerde çalışırken, sitenin hassas yapısı konusunda sizi uyaran ve aracının işini yapmasını izlemek için sekmenin etkin olmasını gerektiren bir "İzleme Modu" da uyguladık. Hassas bilgiler içeren sekmeden uzaklaşırsanız Temsilci duraklar. Bu, aracının hangi aracı eylemlerini gerçekleştirdiğinin farkında olmanızı ve kontrol altında olmanızı sağlar. Zamanla, ChatGPT aracısının hem bireysel hem de kurumsal iş akışlarında güvenli ve emniyetli bir şekilde çalışmasını sağlamak için daha fazla özellik, korkuluk ve güvenlik kontrolü eklemeyi planlıyoruz. Yeni zeka ve yetenek seviyeleri, teknolojinin, toplumun ve risk azaltma stratejisinin birlikte gelişmesini gerektirir. Ve 2000'li yılların başındaki bilgisayar virüslerinde olduğu gibi, herkesin bu teknolojiden güvenli bir şekilde yararlanmayı öğrenebilmemiz için hızlı enjeksiyon saldırıları hakkında düşünmek de dahil olmak üzere sorumlu kullanımı anlamasının önemli olduğunu düşünüyoruz. ChatGPT aracısının Atlas'taki iş akışlarınızı nasıl güçlendireceğini görmekten heyecan duyuyoruz ve tüm insanlığın yararına en güvenli, özel ve emniyetli yapay zeka teknolojilerini oluşturma misyonumuzda kararlıyız.