Cohere wprowadza obliczenia poufne dla wnioskowania AI w Model Vault
W skrócie: Cohere udostępniło publiczną wersję beta „Confidential Computing on Model Vault”, działającą na GPU NVIDIA H100 za pośrednictwem Microsoft Azure. System szyfruje dane w trakcie przetwarzania zarówno na CPU, jak i GPU, szyfruje samą treść żądania przy użyciu Oblivious HTTP (OHTTP) oraz stosuje zdalną atestację, dzięki czemu klient może zweryfikować środowisko przed wysłaniem wrażliwych danych. Jeśli weryfikacja się nie powiedzie, klient odmawia wysłania chronionego żądania. Cohere planuje udostępnić kod stosu poufnego wnioskowania jako open source i rozszerzyć wsparcie o GPU NVIDIA Blackwell (B200) w drodze do pełnej dostępności.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „Cohere”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Publiczna wersja beta „Confidential Computing on Model Vault” działa na GPU NVIDIA H100 przez Microsoft Azure
- 2Izolacja poufnej maszyny wirtualnej rozszerzona na pamięć GPU i komunikację CPU–GPU dzięki NVIDIA Confidential Computing
- 3Treść żądań szyfrowana end-to-end za pomocą Oblivious HTTP (OHTTP) kluczem powiązanym z atestowanym środowiskiem
- 4Zdalna atestacja weryfikuje stan sprzętu/oprogramowania przed udostępnieniem wrażliwych danych; niepowodzenie weryfikacji blokuje żądanie
- 5Planowane udostępnienie kodu stosu poufnego wnioskowania jako open source; w przyszłości wsparcie dla GPU NVIDIA Blackwell B200
Dlaczego to ważne?
Firmy wysyłające wrażliwe zapytania, dokumenty i odpowiedzi do usług wnioskowania AI stron trzecich zyskują mechanizm kryptograficznej weryfikacji, że środowisko przetwarzania nie może zostać odczytane przez dostawcę chmury, hosta ani operatorów, zamiast polegać wyłącznie na zaufaniu umownym.
Co to oznacza dla agentów AI i contact center?
Jeśli przetwarzane są wrażliwe dane klientów (transkrypcje rozmów, dane osobowe, dane z CRM) przez zewnętrzne API AI, pokazuje to powstający standard weryfikowalnego poufnego wnioskowania — istotne przy ocenie dostawców chmurowego AI pod kątem zgodności dla wrażliwych wdrożeń voice AI i contact center, choć nie zastępuje to ochrony przed prompt injection ani zabezpieczeń na poziomie aplikacji.
🧪 Warte przetestowania
Warto ocenić jako architekturę referencyjną do weryfikacji deklaracji dostawców AI dotyczących ochrony danych, szczególnie dla wdrożeń contact center wymagających zgodności z RODO.
Źródła
- CohereOficjalneŹródło pierwotneOryginalny artykuł →„Inside Cohere Model Vault: Building a verifiable confidential AI inference How Model Vault combines confidential CPU and GPU execution, end-to-end encrypted request contents, and remote attestation to protect sensitive AI workloads while they are being processed. Oct 22, 2026 8 min read“22 paź 2026, 23:36
- Data publikacji źródła
- 22 paź 2026, 23:36
- Znalezione przez nasz system
- 22 paź 2026, 19:59
- Podsumowanie wygenerowano
- 22 paź 2026, 20:31
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność