Yapay Zeka
Perplexity ve Nvidia'dan Cihazda Çalışan Yapay Zeka Ajanı
Perplexity, yapay zeka ajanlarını buluttan kullanıcıların kendi cihazlarına taşıyan Portable Computer'ı tanıttı. Nvidia iş birliğiyle geliştirilen bu ürün…
Yapay zeka teknolojileri hızla gelişmeye devam ederken, Perplexity ve Nvidia'dan dikkat çekici bir ortaklık haberi geldi. Şirketler, yapay zeka ajanlarını bulut tabanlı sistemlerden alıp doğrudan kullanıcıların cihazlarında çalıştıran yeni ürünleri Portable Computer'ı tanıttı. Bu yenilikçi yaklaşım, yapay zeka kullanımında maliyet, gizlilik ve erişilebilirlik açısından önemli avantajlar sunmayı hedefliyor.
Portable Computer Nedir ve Nasıl Çalışır?
Portable Computer, Perplexity'nin şubat ayında kullanıma sunduğu Computer platformunun tamamen yerel çalışan bir versiyonudur. Ürün, yapay zeka modellerini ve ajan iş akışlarını buluta ihtiyaç duymadan, kullanıcıların kendi donanımlarında çalıştırma prensibiyle tasarlandı. Bu sayede, yapay zeka ajanları belge inceleme, veri analizi ve rapor hazırlama gibi çok aşamalı görevleri doğrudan cihaz üzerinde yerine getirebiliyor.
Nvidia ile yakın iş birliği içinde geliştirilen Portable Computer, ilk etapta Nvidia'nın DGX Spark masaüstü süper bilgisayarında ve Nvidia RTX GPU'lara sahip Linux bilgisayarlarda kullanılabiliyor. Yapay zeka modellerini, dosyaları, araçları ve web erişimini tek bir platformda birleştiren sistem, kullanıcının dosyaları ve yapılan işlemlerin tamamen cihaz üzerinde kalmasını sağlıyor.
Maliyet ve Gizlilik Avantajları
Portable Computer'ın en önemli avantajlarından biri maliyet etkinliği. Cihaz üzerinde gerçekleştirilen işlemler, Perplexity'nin bulut kredilerini tüketmiyor. Bu durum, ajanların uzun süre dosya incelemesi veya analiz yapması durumunda ortaya çıkan token kullanım ücretlerinin önüne geçiyor. Sistem, tüm görevleri varsayılan olarak cihaz üzerinde başlatıyor ve yerel modelin yeterli olmadığı durumlarda daha güçlü bir bulut modelinden yardım alınabiliyor. Ancak bu noktada, Portable Computer herhangi bir işlemi buluta göndermeden önce kullanıcıdan izin istiyor.
Gizlilik açısından da önemli detaylar sunan Portable Computer, buluta gönderilecek içeriğin kişisel bilgiler açısından kontrol edilmesini ve hangi verilerin cihazdan çıkacağının kullanıcıya gösterilmesini sağlıyor. Buluttaki model yalnızca metin tabanlı yönlendirme sağlarken, kullanıcının yerel dosyalarına veya araçlarına doğrudan erişemiyor.
Bağlantı Özellikleri ve Desteklenen Modeller
Portable Computer'ın tamamen yerel çalışan yapısına rağmen bağlantı özellikleri korunuyor. Şirketin paylaştığı bir demoda, bir ajanın CSV formatındaki kullanıcı verilerini cihaz üzerinde analiz ettikten sonra sonuçları Slack kanalına göndermesi gösterildi. Sistem ayrıca Google Drive, Gmail ve GitHub gibi platformlarla bağlantı kurabiliyor.
Ürün, kullanıma sunulduğu dönemde Qwen 3.8 27B ve Perplexity tarafından kendi ajan altyapısı için sonradan eğitilen PPLX 27B modelleriyle çalışabiliyor. Nvidia'nın Nemotron 3.5 Lightning modelinin de yakında desteklenmesi planlanıyor. Perplexity, yerel modellerin daha düşük kapasitesini göz önünde bulundurarak ajan altyapısını yeniden tasarladı. Bu kapsamda, daha kısa sistem istemleri ve sınırlı sayıda temel araç kullanılırken, farklı yetenekler ihtiyaç halinde "skills" olarak sisteme dahil ediliyor. Gmail ve GitHub gibi bağlantılar da daha fazla token tüketen MCP sunucuları yerine daha kompakt komut satırı araçları şeklinde çalışıyor.
Perplexity'nin kendi testlerine göre PPLX 27B modeli, şirketin 53 farklı bilgi işi görevinden oluşan Local Knowledge Work Bench testinde yüzde 85,4 puana ulaşırken, Qwen modeli yüzde 82,6 puan elde etti. Ancak şirket, daha küçük yerel modellerin özellikle zor akıl yürütme görevlerinde güçlü bulut modellerinin gerisinde kaldığını kabul ediyor.
Sistem Gereksinimleri ve Erişilebilirlik
Portable Computer şu anda Linux üzerinde Perplexity Pro, Max, Enterprise Pro ve Enterprise Max abonelerine sunuluyor. Windows desteğinin ise eylül ayında gelmesi planlanıyor. Ürünü çalıştırmak için en az 24 GB VRAM'e sahip bir Nvidia RTX GPU gerekiyor. Perplexity, GeForce RTX 3090 ve daha yeni modelleri bu gereksinimin başlangıç noktası olarak gösteriyor. Apple Silicon cihazlar ise şu an için yol haritasında yer almıyor.
Kaynak: webrazzi.com
Sıkça Sorulan Sorular
-
Portable Computer, yapay zeka ajanlarını ve iş akışlarını bulut tabanlı sistemlerden ayırarak doğrudan kullanıcıların kendi cihazlarında çalıştırmayı amaçlar. Bu sayede maliyet ve gizlilik avantajları sunar.
-
Ürün, ilk etapta Nvidia'nın DGX Spark masaüstü süper bilgisayarında ve en az 24 GB VRAM'e sahip Nvidia RTX GPU'lu Linux bilgisayarlarda çalışıyor. Windows desteğinin eylül ayında gelmesi bekleniyor.
-
En önemli avantajları arasında bulut kredisi tüketmeden yerel işlem yapabilme, kullanıcı verilerinin cihazda kalması sayesinde gelişmiş gizlilik ve Google Drive, Gmail gibi platformlarla yerel bağlantı kurabilme yeteneği yer almaktadır.
Yapay Zeka Kategorisinden En Yeniler
- Hugging Face 13 Milyar Dolarlık Satın Alma Teklifleriyle Gündemde
- Google'dan Search ve Gemini'a Yapay Zeka Destekli Eğitim Araçları
- ChatGPT Sonrası Web Sayfalarının %35'i Yapay Zeka İzleri Taşıyor
- Türkiye'nin Yapay Zeka Eylem Planı Resmen Yürürlükte
- Amazon, Yapay Zeka Eğitimi İçin Nadir Kitapları Yok Ediyor
- Google Meet AI Not Alma Özelliğini Yüz Yüze Toplantılara Taşıdı