Yapay zekâ destekli uygulama geliştirmek: araç yığınının katman katman haritası
9 aşama, 24 araç
tarihinde güncellendi
Demoda çalışan bir yapay zekâ özelliği, işin küçük bir parçasıdır. Demo, tek bir istem, tek bir model ve beş uyumlu girdiden ibarettir. Ürün ise aynı şeyin binlerce öngörülemez kullanıcıya karşı, arkasında kendi verilerinizle, kullanımla birlikte büyüyen bir faturayla ve cevapların ne zaman kötüleştiğini bilme ihtiyacıyla çalışmasıdır.
Bu yüzden yığın katmanlıdır. Bir API üzerinden ulaşılan ya da kendi sunucunuzda barındırılan bir model. Kod gibi sürümlenen istemler. Modelin tahmin yürütmek yerine sizin içeriğinizden cevap vermesini sağlayan erişim ve bellek katmanı. Belki çağırabileceği araçları olan bir ajan döngüsü. Hepsinin çevresinde sıradan uygulama kodu, ardından testler, değerlendirme ve yayın için bir yer.
Uygulama kodunun büyük bölümünü artık kodlama ajanları yazıyor, uygulama oluşturucular da bir tariften çalışan bir ön yüz üretebiliyor. Mühendislik muhakemesini ise çözmüyorlar: görev için kabul edilebilir maliyetle yeterince iyi olan model hangisi, kalite kullanıcılardan önce nasıl ölçülür, hangi veri sisteminizin dışına çıkabilir, model emin bir tavırla yanıldığında ne olur? Modeller ve koşulları da sık değişir. Bu yüzden uygulamayı, bir modeli baştan yazmadan değiştirebilecek biçimde tasarlayın.
Bu rehber kimler için Bir ürüne dil modeli özelliği eklemek ya da bir modelin etrafında yeni bir uygulama kurmak isteyen, yığın seçmeden önce araçların haritasını görmek isteyen geliştiriciler, teknik kurucular ve küçük ürün ekipleri.
Bir prototip için yaygın ilk tur: modelleri kendi istemlerinizle karşılaştırın, kodu bir ajanla yazın, izlemeyi erkenden açın, sonra yayına alın. Seçimler bu sırayı izler, bir sıralama değildir.
Depoyu bağlayın ve önizleme adresini beş test kullanıcısıyla paylaşın.
1
Aşama 1: Model seçimi
Uygulamanın hangi modeli ya da modelleri çağıracağına karar verirsiniz. Bunu yaparken kendi göreviniz üzerindeki çıktı kalitesini, hızı, bağlam boyutunu, istek başına maliyeti, gizlilik gereksinimlerini ve barındırılan bir API mi yoksa kendi çalıştıracağınız açık bir model mi gerektiğini tartarsınız.
Yapay zekâ burada ne yapar
Aynı istemi farklı modellere yan yana göndermenizi sağlar, modelleri tanıdık API biçimleriyle sunar ve açık modelleri kendi donanımınızda çalıştırır.
Yapay zekâ burada ne yapamaz
Görevinize hangi modelin uyduğunu söyleyemez. Herkese açık liderlik tabloları başkalarının oylarını ve istemlerini yansıtır; güvenilir tek test kendi örneklerinizdir.
Runs open-source models inside secure hardware enclaves and exposes them through an OpenAI-compatible API, for apps that handle sensitive data.
Modelleri güvenli donanım yalıtımı içinde çalıştıran; sohbet uygulaması, çıkarım API'si ve konteynerler olarak sunulan özel yapay zekâ bulutu.
Aracı gör
2
Aşama 2: İstem yazımı ve prototip
Uygulama kodu yazmadan önce talimatları belirlersiniz: sistem istemi, örnekler, çıktı biçimi. Bunları sıradışı olanlar da dahil gerçek girdilerle denersiniz ve değişiklikleri karşılaştırabilmek için her sürümü saklarsınız.
Yapay zekâ burada ne yapar
Kabaca yazılmış bir isteği yapılandırılmış bir isteme çevirir, mevcut bir istemin zayıf yanlarını çözümler ve sürümlü bir istem kütüphanesi tutar.
Yapay zekâ burada ne yapamaz
Sınır durumlarınızı bilemez. İyi okunan bir istem, kullanıcılarınızın gerçekten gönderdiği girdilerde yine de başarısız olabilir; bunu ancak toplanan örnekler üzerindeki testler ortaya çıkarır.
Analyzes a prompt for strengths and weaknesses, rewrites it in rounds and records each version so earlier ones can be recovered.
Metin, görsel ve video modelleri için istem üreten, analiz eden, iyileştiren ve tersine mühendislikle çıkaran istem çalışma alanı.
Aracı gör
3
Aşama 3: Model API'leri, geçitler ve çıkarım barındırma
Uygulamayı modellere üretimde ayakta kalacak biçimde bağlarsınız: anahtarlar sunucu tarafında tutulur, sağlayıcı çöktüğünde yeniden deneme ve yedek yollar devreye girer, hız limitleri uygulanır, harcama izlenir; açık bir modeli kendiniz sunuyorsanız GPU barındırma da buna eklenir.
Yapay zekâ burada ne yapar
İstekleri yedek ve kota desteğiyle tek bir uç noktadan pek çok modele yönlendirir; açık modelleri küme yönetmeden, otomatik ölçeklenen GPU altyapısında sunar.
Yapay zekâ burada ne yapamaz
Sağlayıcılara bağımlılığı ortadan kaldırmaz. Fiyatlar, hız limitleri ve model sürümleri onların takvimine göre değişir. Sürümleri sabitleyin ve veri kullanımına ilişkin koşulları okuyun.
AI Gateway'i, istekleri yedekleme, yük dengeleme, yeniden deneme ve harcama izlemeyle birlikte tek bir hizmet üzerinden pek çok yapay zekâ modeline yönlendirir.
Web uygulamalarını ve yapay zekâ ajanlarını yayına alan; yapay zekâ ağ geçidi, korumalı alanlar, iş akışları ve küresel CDN sunan bulut platformu.
Documents how to call its models from application code and coding agents, with thinking mode that can be switched off per request.
Dil modelleri için sohbet asistanı, masaüstü harness ve token bazlı faturalandırılan API sunan yapay zekâ araştırma şirketi.
Aracı gör
4
Aşama 4: Erişim, bellek ve veri
Çoğu işe yarar uygulama belirli bir içerikten cevap verir: dokümantasyonunuz, bir müşterinin dosyaları, canlı web, geçmiş konuşmalar. Bu içeriği alır ve dizinlersiniz, her istekte ilgili parçaları getirir ve kaynaklarıyla birlikte modele iletirsiniz.
Yapay zekâ burada ne yapar
Web sayfalarını temiz Markdown olarak çeker, gömme vektörlerini saklar ve arar, ilgili parçaları kaynak bağlantılarıyla döndürür, oturumlar arasında kullanıcı başına bellek tutar.
Yapay zekâ burada ne yapamaz
Zayıf kaynak malzemeyi düzeltemez. Erişim, dizinde ne varsa onu getirir; güncel olmayan ya da çelişen belgeler, güncel olmayan ya da çelişen cevaplar doğurur.
Builds a per-user graph of dated facts from data and conversations and returns the context a task needs in one call.
İş verilerinden, belgelerden ve konuşmalardan yönetilen bilgi grafikleri kuran, yapay zekâ temsilcileri için bağlam ve bellek katmanı.
Aracı gör
5
Aşama 5: Ajan çerçeveleri ve araç erişimi
Uygulamanın yalnızca cevap vermesi değil eylem de yapması gerekiyorsa bir ajan döngüsü kurarsınız: model hangi aracı çağıracağına karar verir, sizin kodunuz aracı çalıştırır ve sonucu geri döndürür. Araçları, izinlerini ve bir insanın ne zaman onay vermesi gerektiğini siz tanımlarsınız.
Yapay zekâ burada ne yapar
Herhangi bir model sağlayıcısıyla ajan yazmak için kütüphaneler sunar, sıradan fonksiyonlardan araç şemaları üretir ve üçüncü taraf araç sunucularına kimlik doğrulamayı yönetir.
Yapay zekâ burada ne yapamaz
Bir ajanı varsayılan olarak güvenli kılamaz. Sunduğunuz her araç, modelin yanlış anda çağırabileceği bir şeydir; izinleri dar tutun ve geri alınamayan işlemleri onaya bağlayın.
Connects an agent to MCP servers from a catalog and manages OAuth, credentials and sessions for those connections.
Yapay zekâ ajanlarını yönetilen OAuth ve kimlik bilgileriyle MCP sunucularına bağlayan kayıt defteri ve bağlantı katmanı.
Aracı gör
6
Aşama 6: Kodu yazmak
Modelin çevresinde sıradan bir uygulama durur: API rotaları, veri modelleri, kimlik doğrulama, arka plan işleri, bir kullanıcı arayüzü. Bu kodu yazar, gözden geçirir ve test edersiniz; giderek daha çok, görevleri bir kodlama ajanına devredip değişikliklerini inceleyerek.
Yapay zekâ burada ne yapar
Bir kod tabanını keşfeder, değişiklik planlar, dosyaları düzenler, testleri çalıştırır ve düz dille yazılmış bir görevden çekme isteği açar; çekme isteklerini satır satır inceler.
Yapay zekâ burada ne yapamaz
Mimarinin ya da sonuçların sahibi olamaz. Üretilen kod testlerini geçip yine de güvensiz ya da gereksinimlerinize uygunsuz olabilir; birleştirilenleri bir geliştirici okumalıdır.
Her çekme isteğini satır düzeyinde yorumlar ve uygulanabilir önerilerle inceler; kodun büyük kısmı ajan tarafından yazıldığında işe yarar.
Her çekme isteğine yorum yapan yapay zekâ kod incelemesi; PR önceliklendirme, değişiklik açıklamaları ve güvenlik izleme sunar.
Aracı gör
7
Aşama 7: Ses, görsel ve video özellikleri
Bazı uygulamalar metinden fazlasını ister: sesli cevaplar, yazıya dökme, gerçek zamanlı sesli konuşma, üretilmiş görseller ya da klipler. Bunlar kendi API'leri, gecikme bütçeleri ve kullanım kuralları olan ayrı modellerdir.
Yapay zekâ burada ne yapar
Bir API üzerinden metinden sese, sesten metne ve çift yönlü sesli konuşma ekler; uygulama kodundan video ya da görsel üretir.
Yapay zekâ burada ne yapamaz
Hakları sizin yerinize temizleyemez. Gerçek bir kişinin sesini klonlamak onun rızasını gerektirir; üretilen medyanın ticari kullanımı ise sağlayıcının koşullarına ve planınıza bağlıdır.
Video ve görsel üretim modellerini dokümantasyon ve model yönlendiricisiyle birlikte bir geliştirici API'si üzerinden sunar.
Video, görsel ve ses üretmek ve düzenlemek için geliştirici API'si ve dünya modelleri olan yapay zekâ platformu.
Aracı gör
8
Aşama 8: Değerlendirme ve izleme
Gerçek girdilerden bir test kümesi kurar, her değişiklikten önce çıktıları puanlarsınız; yayından sonra da hataların, maliyetin ve gecikmenin görünür olması için her isteği izlersiniz. Otomatik puanlamanın yargılayamadığı yerleri insan incelemesi kapatır.
Yapay zekâ burada ne yapar
Bir çalıştırmanın her adımını kaydeder, gerçek izlerden veri kümeleri kurar, halüsinasyon gibi sorunlar için otomatik değerlendiriciler çalıştırır ve çıktıları insan puanlaması için kuyruğa alır.
Yapay zekâ burada ne yapamaz
Ürününüz için iyi bir cevabın ne olduğunu tanımlayamaz. Ölçütleri birinin yazması, örnekleri birinin etiketlemesi gerekir; otomatik yargıçlar da hata yapan modellerdir.
Sohbet ve ses ajanlarına karşı yapay zekâ değerlendiricileri gönderir; yayından önce halüsinasyon, önyargı, toksiklik ve uyum sorunlarını kontrol eder.
Web, mobil ve yapay zekâ uygulamaları için test planlayan, yazan ve çalıştıran yapay zekâ ajanlarına sahip, eski adıyla LambdaTest olan yazılım test bulutu.
Its AI observability tracks the events generated by an application's model calls, next to session replays and error tracking for the rest of the app.
Analitik, oturum tekrarı, özellik bayrakları, hata takibi ve veri ambarını birleştiren; üzerine yapay zekâ ekleyen ürün veri platformu.
Aracı gör
9
Aşama 9: Uygulamayı yayına almak
Uygulamanın bir ön yüze, kullanıcı hesaplarına, barındırmaya, alan adına ve önizleme ile geri almayı içeren bir yayın sürecine ihtiyacı vardır. Prototip ya da şirket içi araç için bunlar üretilebilir; bir ürün için ise bilinçli mühendislik gerekir.
Yapay zekâ burada ne yapar
Bir tariften arayüzü, mantığı ve veri katmanıyla çalışan bir web uygulaması üretir, her kod gönderiminde yayına alır ve her değişikliğe bir önizleme adresi verir.
Yapay zekâ burada ne yapamaz
Yayından sonrasını sizin yerinize halledemez: kötüye kullanım, hız sınırlama, gizlilik talepleri, destek ve her kullanıcıyla büyüyen kullanım faturası.
Handles sign-ups and logins and exposes database tables through REST endpoints, so the app has a backend without custom server code.
Kimlik doğrulama, anında API'ler, edge fonksiyonlar, gerçek zamanlı özellikler, depolama ve vektör gömmeleri sunan Postgres geliştirme platformu.
$25/ay başlangıçAracı gör
Gerçekçi beklentiler
Modeller emin bir tavırla yanılır
Bir dil modeli akıcı ama yanlış bir cevap verebilir. Erişim katmanı bunu azaltır, ortadan kaldırmaz. Mümkün olduğunda kaynak gösterin, gerçek girdilerle test edin ve denetlenmemiş çıktının sağlık, para ya da hukuk konularındaki kararları yönlendirmesine izin vermeyin.
Kullanıcı verisi ve sağlayıcı koşulları
Gönderdiğiniz her istem kişisel ya da gizli veri içerebilir. Her sağlayıcının saklama ve eğitim koşullarını kontrol edin, kullanıcılara nelerin işlendiğini söyleyin; hassas iş yükleri için kendi sunucunuzda ya da izole ortamda çıkarım yapmayı düşünün.
Maliyet kullanımla artar
Token, kredi, GPU saniyesi ve araç çağrılarının hepsi ölçülür ve faturalanır. Testte az tutan bir özellik, uzun bağlamlar ya da ajan döngüleriyle pahalıya çıkabilir. Harcama limiti koyun ve istek başına maliyeti ölçün.
Üretilen kod yine de gözden geçirilmeli
Kodlama ajanları ve uygulama oluşturucular çalışan yazılımı hızlı üretir; güvenlik açığı olan yazılımı da. Gerçek kullanıcılar gelmeden önce kimlik doğrulamayı, veri erişim kurallarını ve gizli anahtarların yönetimini kendiniz gözden geçirin.
İstem enjeksiyonu gerçek bir saldırıdır
Modelin web sayfalarından, belgelerden ya da kullanıcılardan okuduğu metin talimat içerebilir. Model çıktısına güvenmeyin, ajanın hangi araçları çağırabileceğini kısıtlayın ve geri alınamayan her işlem için onay isteyin.
Sık sorulan sorular
Barındırılan bir model API'sini mi çağırmalıyım, yoksa açık bir modeli kendim mi çalıştırmalıyım?
Aksini gerektiren net bir neden yoksa barındırılan bir API ile başlayın. Üzerine geliştirmek daha hızlıdır ve GPU işletmeniz gerekmez. Açık bir modeli kendiniz çalıştırmak; veri ortamınızdan çıkmamalıysa, ince ayar yapmanız gerekiyorsa ya da hacim hesaplamayı kendinizin işletmesini daha ucuz kılacak kadar yüksekse mantıklıdır. Pek çok ekip bir API üzerinde prototip yapar, kullanım netleşince seçimi yeniden değerlendirir.
Yapay zekâ uygulaması için ajan çerçevesine ihtiyacım var mı?
Çoğu zaman hayır. İyi talimatlarla ve getirilen bağlamla yapılan tek bir model çağrısı pek çok özelliği karşılar: özetleme, sınıflandırma, bilgi çıkarma, belgelerden cevap verme. Çerçeve, modelin araçlar arasında seçim yapması, birkaç adım çalıştırması, durum tutması ya da hatalardan toparlanması gerektiğinde yerini hak eder. Erkenden eklemek, hata ayıklanacak kavramları da artırır. Basit başlayın, yalın yöntem yetmez olduğunda çerçeveye geçin.
Yazılımcı olmayan biri bu araçlarla yapay zekâ uygulaması geliştirebilir mi?
Prototip ya da şirket içi araç için evet. Bu rehberdeki uygulama oluşturucular, bir tariften giriş ve barındırma dahil çalışan bir web uygulaması üretir. Müşteri verisi ve ödemelerle uğraşan bir ürün ise başka bir iştir: güvenliği, maliyeti ve hata yönetimini anlayan biri gerekir. Makul yol, kodsuz prototip yapmak, gerçek kullanıcılarla denemek, ölçeklemeden önce bir geliştiriciyi devreye almaktır.
Yapay zekâ özelliğimin yayına çıkacak kadar iyi olduğunu nasıl anlarım?
Gerçek girdilerden bir küme toplayın, her biri için doğru cevabın nasıl görünmesi gerektiğini yazın ve her değişiklikten önce sistemi bunun üzerinden puanlayın. Zor ve kötü niyetli durumları da ekleyin. Otomatik kontrolleri, bir örneklemin insan tarafından incelenmesiyle birleştirin. İzleme açıkken küçük bir gruba yayına alın, hataları okuyun ve hata oranı kullanımınız için kabul edilebilir hale geldikçe erişimi genişletin.
Araçlar, her aracın kendi profiline bakılarak bir editör tarafından aşamalara yerleştirilir. Daha fazla profil yayımlandıkça liste büyür. Tüm rehberler