Kendi sunucusunda çalışan sohbet robotu — Alman bulutu veya şirket içi.
DigElite chatbot'ları müşterinin istediği yerde çalışır: kendi web sunucularında, Hetzner, IONOS, STACKIT veya OVH Frankfurt ile Alman bulutunda veya güvenlik duvarının arkasında yerel bir kurulum olarak. Her üç yol da sorgu verilerini AB içinde tutar. Müşterinin kendi barındırma hizmetinde chatbot yığınını kurar, güvenliğini sağlar ve güncelleriz; DigElite ara sunucusu, harici telemetri ve müşteri kendi barındırma hizmetini kullanıyorsa veri işleme gibi işlemler yapılmaz.
Üç farklı barındırma seçeneği mevcut; mimari aynı kalıyor.
Yol A — Müşterinin web sunucusunda
API tabanlı LLM (Aleph Alpha, Mistral) kullanan chatbot'lar için mevcut WordPress sunucunuz yeterlidir. Eklentiyi kurun, API anahtarını girin, bilgi tabanını indeksleyin ve işlem tamam. Sunucu yükseltmesi gerekmez. Hizmet sohbeti, dernek chatbot'ları ve yönetimsel bilgi botları için uygundur.
B Yolu — Almanya'daki bir bulutta kendi sunucunuz
Daha yüksek trafik veya yerel LLM (Llama, Mistral şirket içi) için, Alman bulutunda özel bir sunucu öneriyoruz: Hetzner (Falkenstein, Nürnberg, Helsinki - sonuncusu AB içinde), IONOS (Frankfurt, Berlin), STACKIT (Baden-Württemberg, Kara Orman), OVH (Frankfurt). Aylık yaklaşık 200-400 €'dan başlayan GPU makineleri, Llama-3-8B veya Mistral-7B çalıştıran orta ölçekli bir işletme chatbot'unu güvenilir bir şekilde destekleyecektir.
Yol C — Güvenlik duvarının arkasındaki şirket içi sunucu
Devlet kurumları, hassas üye verilerine sahip dernekler veya gizlilik gereksinimleri olan sektörler için: Müşterinin güvenlik duvarının arkasında, istekler için internet bağlantısı olmadan eksiksiz bir çözüm sunuyoruz. Kurulum talimatları, güvenlik yapılandırması ve güncelleme yolu sağlıyoruz; işletim, müşterinin BT ekibi veya yetkili bir servis sağlayıcısı tarafından gerçekleştirilir.
Uygulama bazında karşılaştırma.
| Kullanım Durumu | Yol A (müşteri web sunucusu) | Yol B (Alman Bulutu) | C Yolu (Yerinde Kurulum) |
|---|---|---|---|
| Hizmet sohbeti KOBİ web sitesi | ✓ ideal | ✓ daha yüksek trafikle | – aşırıya kaçmak |
| Dernek/Kulüp Botu | ✓ ideal | - gerekli değil | - gerekli değil |
| Belediye vatandaş sohbet robotu | ✓ mümkün | ✓ ideal (ölçeklendirme) | ✓ Hükümetin BT gereksinimlerine uygun olarak |
| Gizlilikle yürütülen endüstri | - yeterli değil | – sınırda | ✓ ideal |
| E-posta otomatik yanıtı | ✓ ideal | ✓ birçok posta kutusu için | ✓ resmi posta kutusunda |
Örnek: Orta ölçekli şehir yönetimi — Hetzner'de Llama-3-8B.
Orta ölçekli bir şehir yönetimi, çevrimiçi hizmetler için bir vatandaş sohbet robotuna ihtiyaç duyuyor. BT departmanının gereksinimleri: ABD bulutuna geçiş olmaması, model güncellemeleri üzerinde kurum içi kontrol ve öngörülebilir maliyetler. Biz B yolunu seçtik: Hetzner Falkenstein'da Llama-3-8B ile özel bir sunucu, FIM standart hizmet tanımları aracılığıyla RAG indeksleme ve düşük üç haneli euro aralığında aylık barındırma maliyetleri. Sohbet robotu, vatandaşların sorularının çoğunu doğrudan yanıtlıyor ve geri kalanını yapılandırılmış bir biletleme sistemi aracılığıyla vatandaş hizmetleri ofisine iletiyor.
„"Bir chatbot'u ABD'deki bir bulut sunucusuna gönderen herkes, belirleyici avantajını kaybetmiştir. Biz üç barındırma seçeneği sunuyoruz; üçü de tam veri egemenliğine sahip, üçü de bakımı kolay ve üçü de uygun fiyatlı.""
— Philipp Herrmann, DigElite'ın kurucusu
Potansiyel müşterilerin kurulum öncesinde sorması gereken sorular.
Yerel bir LLM (Llama, Mistral şirket içi kurulum) için hangi donanıma ihtiyacım var?
Mistral-7B veya Llama-3-8B için, modern bir GPU'ya (NVIDIA L4, RTX 4090 veya bulut eşdeğeri) sahip bir sunucu yeterlidir. Hetzner GPU'lu makinelerin fiyatı aylık yaklaşık 200 €'dan başlarken, tüketici GPU'lu özel sunucuların fiyatı aylık yaklaşık 400 €'dan başlıyor. API tabanlı modeller (Aleph Alpha, Mistral La Plateforme) için ise yalnızca standart bir WordPress sunucusuna ihtiyacınız var.
Helsinki'deki Hetzner'de bulunan sunucum ile Falkenstein'deki Hetzner'de bulunan sunucum yasal olarak farklı mı?
Her ikisi de AB içinde yer almaktadır ve her ikisi de GDPR'ye uygun olarak işletilebilir. Finlandiya, Almanya gibi GDPR'ye tabidir. Müşteriler açıkça "Almanya'da" talep ederse (örneğin, konum şartı olan devlet kurumları), Falkenstein, Nürnberg, Frankfurt veya Berlin'i seçiyoruz. Konumu şeffaf bir şekilde belgelendiriyoruz.
DigElite neleri üstleniyor ve müşteriye ne kalıyor?
DigElite, chatbot yığınını bir kez kurar, yapılandırır ve güvenliğini sağlar ve bir güncelleme prosedürü sunar. Müşteri veya barındırma sağlayıcısı, sunucu işletiminin devamından (izleme, yedekleme, işletim sistemi güncellemeleri) sorumludur. Ayrı bir bakım sözleşmesi sunabiliriz; bu durumda geleneksel bir hizmet olur, SaaS olmaz.
Sunucu arızası durumunda ne olur?
A yolu ile, sohbet bileşeni sunucu kesintilerine herhangi bir WordPress eklentisi gibi tepki verir; web sitesi zaten çevrimdışı durumdadır. B/C yolları için standart yüksek kullanılabilirlik modellerini (yedekleme, yük dengeleyici, düzenli yedeklemeler) öneriyoruz. Harici bir sağlayıcı söz konusu olmadığı için, "SaaS sağlayıcısı kesintisi, yapabileceğiniz hiçbir şey yok" riski yoktur.
GDPR argümanını destekleyen üç küme.
Her bir unsur ayrı bir alt soruyu yanıtlar. Ancak üçünün birlikte çalışmasıyla gerçekten GDPR uyumlu bir yapay zekâ sohbet robotu ortaya çıkar.
GDPR uyumluluğu
ABD Yapay Zeka Yasası'nın 6. ve 28. maddeleri, üçüncü ülke statüsü — kesin yasal dayanak.
Kendi sunucum
Müşteri sunucuları, Alman bulutu, şirket içi sunucular — AB içi üç yol.
Avrupa LLM modelleri
Aleph Alpha Luminous, Mistral, Llama şirket içi kurulum çözümleri — kullanım senaryosuna göre karşılaştırma.
Okumaya devam edebileceğiniz yer.
Bu özellik DigElite chatbot ailesinin bir parçasıdır — göz atın. Ürün Genel Bakışı veya tematik olarak ilgili kümeler.
GDPR uyumlu sohbet robotu
Hukuki dayanak: Yapay Zeka Kanunu'nun 6. ve 28. maddeleri.
Daha fazla bilgi edinin →
Alman ve Avrupa Hukuk Yüksek Lisansları
Aleph Alpha, Mistral, Llama yerinde kurulum modelleri karşılaştırması.
Daha fazla bilgi edinin →
DigElite Sohbet Botlarına Genel Bakış
Tüm küme konularını içeren sütun.
Daha fazla bilgi edinin →
Bir izlenim edinmek için 15 dakika yeterlidir.
Nordzypern.live adresinde kendi chatbot'umuzla canlı sohbet edeceğiz ve gerçek belgelere nasıl yanıt verdiğini, dürüstçe "Bilmiyorum" dediği durumları ve aramayı nasıl bir insana aktardığını göstereceğiz. Satış konuşması yok, 47. slayt yok.
Sohbet robotunu canlı izleyin ve ön görüşme yapın.