EtusivuTekoäly (AI)OWASP Top 10 LLM – tietoturvariskit kielimallipohjaisissa sovelluksissa

OWASP Top 10 LLM – tietoturvariskit kielimallipohjaisissa sovelluksissa

Kun kielimallit tulevat osaksi ohjelmistoja, myös riskit muuttuvat. Ymmärrä, mitä tietoturva ja tietosuoja tarkoittavat LLM-ratkaisuissa ja miten OWASP Top 10 auttaa hallinnassa.
Active directory ylläpitäjä tekemässä töitä tietokoneellaan
 

Älykäs järjestelmä vaatii älykkään hallinnan

Kielimallit ovat siirtyneet nopeasti kokeiluista osaksi organisaatioiden arkea, ja niitä hyödynnetään valmiina tuotteina, integraatioina sekä päätöksenteon ja asiakaspalvelun tukena. Samalla niihin liittyvät tietoturva- ja tietosuojakysymykset ovat korostuneet, eikä perinteinen sovellusturva kata kaikkia kielimallipohjaisten ratkaisujen erityispiirteitä. Organisaatioilta edellytetään kykyä tunnistaa keskeiset riskit riippumatta siitä, kehitetäänkö ratkaisu itse vai hankitaanko se toimittajalta.

OWASP Top 10 LLM – tietoturvariskit kielimallipohjaisissa sovelluksissa -koulutus käsittelee kielimalleja osana ohjelmistoja erityisesti tietoturvan ja hallinnan näkökulmasta. Se tarjoaa käsitteellisen perustan kielimallien toiminnasta ja niiden eroista perinteisiin sovelluksiin sekä jäsentää keskeiset riskit OWASP Top 10 for LLM Applications -viitekehyksen avulla. Painopiste on käytännön vaikutuksissa ohjelmistojen hankintaan, kehittämiseen ja käyttöönottoon sekä agentic AI -ratkaisujen turvalliseen hyödyntämiseen.


Paikka

Espoo


Osallistumismuoto

Classroom
Remote


Kesto

1 päivä


Hinta

945 €

Koulutus on tarkoitettu asiantuntijoille ja esihenkilöille, jotka vastaavat kielimalleja hyödyntävien ohjelmistojen ja digitaalisten palveluiden hankinnasta, kehittämisestä tai käyttöönotosta. Se on erityisen relevantti rooleille, joissa tehdään päätöksiä tietoturvasta, tietosuojasta ja vaatimustenmukaisuudesta ilman mahdollisuutta nojata pelkkään tekniseen detaljiin.

Koulutus palvelee parhaiten Product- ja Service Ownereita, kehitys- ja digitalisaatiovastuullisia, IT- ja tietosuojapäälliköitä sekä GRC- ja compliance-asiantuntijoita toimialoilla, joilla kielimallien käyttö kohdistuu arkaluonteiseen tietoon tai säädeltyihin prosesseihin.

  • Mitä kielimallit ovat ja miten ne toimivat osana ohjelmistoja 
  • Miten LLM-pohjaiset ratkaisut eroavat perinteisistä ohjelmistoratkaisuista tietoturvan näkökulmasta 
  • Tietosuoja ja henkilötietojen käsittely LLM-sovelluksissa  
  • Mikä on OWASP Top 10 for LLM Applications ja mitä ongelmaa se ratkaisee 
  • Miten OWASP Top 10 LLM suhteutuu perinteiseen OWASP Top 10 -listaan 
  • Miten OWASP Top 10 LLM otetaan osaksi ohjelmistokehitysprosessia ja LLM-pohjaisten tuotteiden tai ratkaisujen valintaa 

  • Vuorovaikutus ja ohjaus LLM-sovelluksissa 
    • LLM01 Prompt Injection (kehotteinjektio) 
    • LLM05 Improper Output Handling (turvaton ulostulon käsittely) 
    • LLM07 System Prompt Leakage (järjestelmäkehotteen vuotaminen) 
    • LLM06 Excessive Agency (liiallinen toimivaltuus) 
  • Data, tieto ja sisältö LLM-sovelluksissa 
    • LLM02 Sensitive Information Disclosure (arkaluonteisen tiedon paljastuminen) 
    • LLM04 Data and Model Poisoning (datan ja mallin myrkyttäminen) 
    • LLM08 Vector and Embedding Weaknesses (vektori- ja embedding-heikkoudet) 
    • LLM09 Misinformation (virheellisen tiedon tuottaminen) 
  • Luotettavuus ja hallinta LLM-ratkaisuissa 
    • LLM10 Unbounded Consumption (rajoittamaton resurssien käyttö) 
    • LLM06 Excessive Agency (liiallinen toimivaltuus) 
    • LLM03 Supply Chain (toimitusketju) 

  • Mitä agentic AI tarkoittaa ja miten se eroaa perinteisistä LLM-sovelluksista 
  • OWASP Top 10 for Agentic AI ja sen suhde OWASP Top 10 LLM -listaan 
  • Mitä tulee huomioida agentic AI -ratkaisuja käyttöön otettaessa 
  • Mitä OWASP Top 10 LLM:stä on olennaista ymmärtää 
  • Miten kokonaisuutta voi hyödyntää omassa organisaatiossa 
  • Jatkolukusuositukset ja seuraavat askeleet  

Hinta 945 € +alv

TAI 1,2 koulutuskrediittiä

Toteutukset




Pidätämme oikeudet mahdollisiin muutoksiin ohjelmassa, kouluttajissa ja toteutusmuodossa. 
Katso usein kysytyt kysymykset täältä.


Aiheeseen liittyvät webinaarit

Katso kaikki webinaarit

Webinaari

Tekoälystrategia vs. FOMO – suunnitellen vai sännäten tekoälyinvestointeihin?

Lue lisää

Webinaari

Webinaari: GenAI ja uudet ISTQB-sertifikaatit – näin viet testausosaamisesi uudelle tasolle

Lue lisää

Webinaari

Webinaari: Copilot tiimityön tehostajana

Lue lisää

Aiheeseen liittyvät blogit