Yerel (şirket içi) yapay zekâ kurulumu için teknoloji seçimi (Serdivan)

01Kullanılabilecek teknolojiler

Büyük dil modelleri (LLM)

Metni anlayıp üretebilen yapay zekâ modelleri; özetleme, sınıflandırma ve soru cevaplamada kullanılır.

Python (Django / FastAPI)

Veri işleme, yapay zekâ ve web servisleri için yaygın programlama dili; Django kapsamlı, FastAPI hafif API geliştirme sunar.

Node.js

JavaScript'i sunucuda çalıştıran ortam; API, gerçek zamanlı uygulama ve entegrasyon servisleri için yaygındır.

Vektör veritabanı

Metin ve görselleri anlam benzerliğine göre aramayı sağlayan veri deposu.

RAG

Dil modelinin cevabını şirketin kendi belgelerinden bulunan parçalara dayandıran yöntem.

02Karşılaştırma tablosu

03Yerel (şirket içi) yapay zekâ kurulumu planlarken bilinmesi gerekenler

• RAG sistemlerinde belge kalitesi ve güncelliği cevap kalitesini belirler.
• Önce süreç ölçülür: işin adedi ve kişi başı süresi; otomasyonun faydası buradan görünür.
• Şirket verisi dış servislere gönderilecekse KVKK m.9 aktarım şartları ve sözleşmeler değerlendirilir; gerekirse yerel/şirket içi model kurulur.

04Serdivan'da yerel (şirket içi) yapay zekâ kurulumu

Serdivan'ın PTT verisindeki 24 yerleşim kaydı 2 farklı posta koduna dağılır. Birden fazla ilçede ekibi veya şubesi olan işletmelerde yerel (şirket içi) yapay zekâ kurulumu için kullanıcı rolleri, şube bazlı görünürlük ve merkezi raporlar birlikte planlanır.

Yazılım projelerinde analiz, tasarım ve geliştirme çoğunlukla uzaktan, görüntülü toplantılarla yürür; Serdivan'daki işletmelerle ekran paylaşımlı demolar ve ortak bir proje panosu üzerinden çalışılır. Donanım kurulumu, saha keşfi veya kullanıcı eğitimi gereken işlerde yerinde çalışma planlanır.

Sakarya genelinde Karapürçek, Akyazı ve Sapanca gibi diğer ilçelerdeki işletmelerle de aynı uzaktan çalışma düzeniyle ilerlenir.

05Yerel (şirket içi) yapay zekâ kurulumu hangi ihtiyaca cevap verir?

Ekip zamanını tekrarlayan işler aldığında

Yerel (şirket içi) yapay zekâ kurulumu ile kopyala-yapıştır, veri girişi ve dosya işleme gibi adımlar otomatikleşir; ekip istisnalara odaklanır.

GPU ihtiyacı analizi gerektiğinde

GPU ihtiyacı analizi, yerel (şirket içi) yapay zekâ kurulumu projesinde kapsamın başında konuşulan başlıklardandır; analizde kimin kullanacağı ve nasıl çalışacağı netleştirilir.

06Barındırma seçenekleri

• Bulut sunucu (VPS): esnek, kaynak ihtiyacına göre büyütülebilir
• Yönetilen platformlar: altyapı yönetimini sağlayıcıya bırakır
• Şirket içi sunucu: verinin kurum içinde kalması gerektiğinde
• Konteyner tabanlı yayın (Docker): her ortamda aynı kurulum

DNS, CDN, önbellek, SSL ve güvenlik katmanı sunan altyapı hizmeti.

07Neden "en yeni" değil "doğru" teknoloji?

Doğru teknoloji; ihtiyacı karşılayan, yeni bir geliştiricinin kolayca devralabileceği ve güncellemeleri düzenli çıkan teknolojidir.

08Ölçeklenebilirlik

Yerel (şirket içi) yapay zekâ kurulumu büyüdükçe veritabanı indeksleri, önbellek ve arka plan kuyrukları devreye girer; mimari bu adımlara baştan izin verecek şekilde kurulur.

SSSSık sorulan sorular

→İlgili sayfalar

Bu sayfada geçen kavramlar

• model seçimi
• GPU ihtiyacı analizi
• erişim kontrolü
• iş akışı
• sınıflandırma
• KVKK
• insan onayı
• prompt
• tahminleme
• Sakarya
• Serdivan