IBM udostępnia modele Granite z obsługą LLMON w celu ochrony przed atakami typu prompt injection
W skrócie: IBM wprowadziło LLMON (LLM Object Notation) – język znaczników przypominający XML, który wykorzystuje specjalne zarezerwowane tokeny do jawnego definiowania instrukcji, danych i ograniczeń. Udostępniono dwa eksperymentalne modele, Granite 4.1 3B i 8B LLMON-preview, które wykazują niemal zerową skuteczność ataków typu indirect prompt injection.
To podsumowanie zostało automatycznie przygotowane przez sztuczną inteligencję na podstawie publikacji „Hugging Face”. To nasz tekst, nie kopia oryginału — fakty, liczby i cytaty należą do źródła, do którego link znajduje się powyżej i poniżej.
Co się zmieniło?
- 1Wprowadzono format LLMON dla wyraźnego oddzielenia instrukcji od danych.
- 2Wydano eksperymentalne modele 3B i 8B z natywnym wsparciem dla LLMON.
- 3Dodano wsparcie dla bloków wykonawczych (exec blocks) wiążących instrukcje z danymi.
- 4Udostępniono narzędzia do konwersji istniejących potoków JSON.
| Parametr | Było | Jest |
|---|---|---|
| Architektura | Standardowa Granite 4.1 Instruct | Struktura natywna LLMON z separatorami typu special-token |
| Przetwarzanie kontekstu | Zwykły tekst / JSON | Adresowalne bloki (instrukcja, dane, wymagania, exec) |
Dlaczego to ważne?
Podejście to rozwiązuje problem podatności standardowych modeli podczas przetwarzania niestrukturalnych danych, takich jak wyniki z RAG czy wyjścia narzędzi. Izolując złośliwe instrukcje ukryte w danych, chroni model przed przejęciem, przy jednoczesnym zachowaniu wydajności w zadaniach ogólnych.
Co to oznacza dla agentów AI i contact center?
Dla zespołów tworzących agentów głosowych architektura ta pozwala na bezpieczniejsze przetwarzanie pobieranych informacji. Podczas testów warto sprawdzić, czy jawne bloki 'exec' zwiększają niezawodność w złożonych workflow RAG i czy zyski w bezpieczeństwie uzasadniają odejście od standardowych struktur JSON.
🧪 Warte przetestowania
Testy są zalecane w celu oceny, jak to podejście strukturalne wpływa na niezawodność i bezpieczeństwo agentów w rzeczywistych zastosowaniach.
Źródła
- Hugging FaceOficjalneŹródło pierwotneOryginalny artykuł →„LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B“12 lis 2026, 21:07
- Data publikacji źródła
- 12 lis 2026, 21:07
- Znalezione przez nasz system
- 12 lis 2026, 21:12
- Podsumowanie wygenerowano
- 12 lis 2026, 21:43
Artykuł napisała AI na podstawie oryginalnego źródła. Fakty, liczby i ceny pochodzą ze źródła; brakujące wartości oznaczono „Brak oficjalnych danych”. Informacje prawne, prawa autorskie i prywatność