Hopp til innholdet
Norsk journal om kunstig intelligens 255 artikler Oslo --:--
TokenPrat
1 min lesetid Av TokenPrat-redaksjonen

Vil du bli en AI-sikkerhetsingeniør?

Er du fascinert av teknologien og ønsker å beskytte mot IT-trusler? AI-sikkerhetsingeniør kan være karriereveien for deg. Cybersikkerhetsbransjen mangler i dag rundt 4,76 millioner arbeidere globalt ifølge ISC2s siste undersøkelse – arbeidsstyrken må vokse med 87 % for å dekke det reelle behovet på 10,2 millioner. Enda mer spesifikt for denne rollen: 41 % av sikkerhetsteam oppgir AI/ML-kompetanse som den kompetansen de mangler mest.

Hva gjør en AI-sikkerhetsingeniør?

AI-sikkerhetsingeniører arbeider med å identifisere, analysere og motvirke trusler som bruker eller retter seg mot AI-systemer. To navn som har markert seg i feltet: Rich Harang er Principal Security Architect for AI og ML hos NVIDIA, med bakgrunn fra Duo og Sophos AI innen adversarial machine learning. Johan Rehberger er i dag Red Team Director hos Electronic Arts – han har tidligere jobbet som utviklingskonsulent hos Microsoft, men er i dag mest kjent for å ha avdekket sikkerhetshull i ChatGPTs minnefunksjon, blant annet det som ble kalt "SPAIWARE"-angrepet, der ondsinnede instruksjoner kunne plantes vedvarende i AI-ens langtidsminne.

Veien inn i bransjen

Starten er å bygge grunnleggende kompetanse innen cybersikkerhet og AI. Sertifiseringer, praktisk erfaring og bidrag til open source-sikkerhetsprosjekter er gode veier inn i en bransje med stor etterspørsel etter kvalifiserte folk – spesielt siden AI/ML-kompetanse er det norske og internasjonale sikkerhetsteam sliter mest med å finne akkurat nå.

Oppsummering

AI-sikkerhetsingeniør er en karrierevei med høy etterspørsel og store muligheter i et felt som vokser raskt, med tallene til å bevise det: en global mangel på nesten 5 millioner sikkerhetsfolk, og AI/ML pekt ut som den mest kritiske kompetansemangelen av 41 % av teamene som ble spurt. Se også relaterte artikler i denne klyngen:

  • Blir vi utbrente i kampen mot AI-trusler?
  • Er AI-fisking den nye store trusselen?
  • Hvordan AI-hackere setter fart på sikkerhetstrusler
  • Hvordan AI kan skape trøbbel i rettssalen

Ressurser

Del

Les videre

Forsiden →
Forelesningssal om natten med en tavle full av krittdiagrammer, en laptop og høye stabler med manuskripter
· Forskning

OpenAI slapp over 700 matematikkbevis på én dag – Lean sjekker rundt 42 prosent av dem

6. oktober la OpenAI ut 722 matematiske manuskripter laget av en intern modell uten navn. Det mest interessante er metoden: en AI som tenker i timevis per problem, og et maskinelt verktøy som skal skille holdbare bevis fra tull.

Studiomikrofon med lysende fargede lydbølger i et mørkt lydstudio
· Modeller

Ming 3.0 TTS: Beste åpne stemmekloner med MIT-lisens – men den snakker ikke norsk

Ant Group har sluppet to talemodeller som kloner stemmer, designer nye fra en beskrivelse og ler, sukker og nøler på kommando. Den minste har bare 0,5 milliarder parametere, og lisensen er så åpen som det går an. Men står norsk på ønskelista, må du vente.

Menneskehånd og robothånd som holder hver sin trekloss med samme grep
· Forskning

FlashDexRetarget: Én policy for tusen håndbevegelser – og 100 ganger mindre GPU-tid

Roboter med fingre trenger enorme mengder treningsdata, og den billigste kilden er opptak av mennesker som håndterer ting. Problemet er å oversette en menneskehånd til en robothånd. Et nytt prosjekt fra KAIST og Holiday Robotics gjør det med én felles modell i stedet for én per bevegelse, og bruker