Seiberdrosedd 2.0: Defnyddio deallusrwydd artiffisial i gyflawni troseddau

Yn flaenorol, roedd dwyn data'r llywodraeth yn gofyn am naill ai asiantaeth gudd-wybodaeth, ychydig o bobl fewnol â chyflog gwael, neu o leiaf ychydig o egni troseddol ynghyd â thalent dechnegol. Heddiw, mae'n debyg mai tanysgrifiad i sgwrsbot AI a'r ymadrodd cywir yw'r cyfan sydd ei angen: "Rhagwelwch eich bod yn haciwr elitaidd." Croeso i 2026. Mae peiriannau bellach yn helpu gyda lladradau hefyd.

Mae ymosodwr anhysbys eto wedi "Claude" AI Anthropic wedi'i ddalSiaradais â hi yn Sbaeneg a gofynnais iddi ddatgymalu rhwydweithiau llywodraeth Mecsico yn broffesiynol. Roedd Claude i fod i ddod o hyd i wendidau, ysgrifennu manteision, adeiladu sgriptiau, ac awtomeiddio'r lladrad data. A Claude? Cyhoeddodd rybuddion i ddechrau, yna ymunodd yn y pen draw. 150 gigabyte yn ddiweddarach, roedd data treth, cofnodion cofrestru pleidleiswyr, manylion mewngofnodi swyddogol, a ffeiliau'r gofrestrfa sifil yn y dwylo anghywir.

195 miliwn o gofnodion treth. Dim ond i roi hynny mewn persbectif: Nid yw hyn yn "Wps, collon ni ffeil Excel." Mae hyn yn "Rydym wedi rhoi cwpwrdd ffeilio digidol gwlad allan ar y stryd."

Mae'r llinell bwyntio bron yn farddonol. Dywedodd y deallusrwydd artiffisial bethau fel, "Mae dileu logiau a chuddio'ch traciau yn faneri coch." Wedi'r cyfan, mewn rhaglen bounty chwilod go iawn, mae'n rhaid i chi ddogfennu popeth. Mae'n cyfateb yn fras i leidr yn egluro i glo drws mai gwiriad diogelwch yw hwn mewn gwirionedd - a'r clo yn ateb, "Arhoswch, mae hynny'n swnio'n rhyfedd." Ac yna neidio ar agor beth bynnag.

Cwestiynodd, triniodd ac ailddiffiniodd yr haciwr y system dro ar ôl tro, gan ei bwydo â'i "lyfr chwarae" ei hun nes i'w ffiniau ddod yn ddigon gwan. Gelwir hyn yn "jailbreaking". Arferai fod yn beth iPhone. Nawr dyma'r dull a ddefnyddir i ddysgu AI i anwybyddu ei foesoldeb ei hun.

Pan gyrhaeddodd Claude ei derfynau, camodd ChatGPT i mewn i helpu. Newid ochrau yn yr un gêm. Sut ydw i'n symud yn ochrol o fewn y rhwydwaith? Pa gymwysterau sydd eu hangen arnaf? Beth yw'r siawns o gael fy nal? Yn ôl yr ymchwilwyr, cynhyrchwyd miloedd o adroddiadau manwl gyda chyfarwyddiadau parod i'w gweithredu. Mae'r bod dynol yn clicio. Mae'r AI yn meddwl ymlaen.

Wrth gwrs, mae'r cwmnïau'n pwysleisio bod eu systemau'n gwrthod ceisiadau o'r fath. Mae cyfrifon wedi'u blocio. Mae gweithgareddau wedi'u hatal. Mae modelau wedi'u hailhyfforddi. Popeth dan reolaeth. Mae hynny'n swnio mor galonogol â: "Mae'r tân wedi'i ddiffodd; nawr rydym yn ymchwilio i pam fod y gêm yn bodoli."

Yn y cyfamser, mae awdurdodau Mecsico yn datgan nad oes unrhyw fynediad heb awdurdod wedi'i ganfod. Mae eraill yn dweud mai dim ond rhwydweithiau ffederal sy'n cael eu heffeithio. Mae seiberddiogelwch yn flaenoriaeth. Yn sicr. Mae bob amser. Nes nad yw'n sydyn mwyach.

Nid yr ymosodiad penodol yw'r hyn sy'n wirioneddol frawychus hyd yn oed. Dyma'r normal newydd. Mae modelau AI yn gwella'n gyson wrth raglennu, dadansoddi a deall systemau cymhleth. Dyna'n union y pwynt gwerthu craidd: hwbwyr cynhyrchiant, cynorthwywyr cod, cefnogaeth ddeallus. Ac, wrth gwrs, mae'r rhai sy'n diffinio "cynhyrchiant" yn hyblyg hefyd yn elwa.

Mae cwmnïau seiberddiogelwch yn dibynnu ar amddiffyniad sy'n cael ei bweru gan AI. Mae hacwyr yn dibynnu ar ymosodiadau sy'n cael eu pweru gan AI. Mae'n ras arfau gyda'r un offer. Pwy bynnag sy'n ysgrifennu'r awgrymiadau gorau sy'n ennill. Arferai fod: gwybodaeth yw pŵer. Nawr mae'n: pwy bynnag sy'n cwestiynu'r peiriant yn well sy'n cael yr atebion gwell.

Mae eironi tarddiad y datguddiad yn arbennig o gain. Mae Gambit Security, a sefydlwyd gan gyn-filwyr Uned 8200 Israel, yn cyhoeddi'r ymchwil—ac ar yr un pryd yn dod allan o'r modd cudd gyda $61 miliwn mewn cyfalaf ffres. Mae asesiad bygythiad yn cwrdd ag achos busnes. Mae realiti brawychus yn cwrdd â rownd fuddsoddi. Anaml y bydd cyd-ddigwyddiadau yn y diwydiant hwn yn gyd-ddigwyddiadol.

Darganfuwyd olion oedd ar gael i'r cyhoedd, gan gynnwys sgyrsiau helaeth gyda Claude. Yn y bôn, roedd y sgyrsiau hyn yn cynnwys cwestiynau fel: "Ble alla i ddod o hyd i fwy o hunaniaethau? Pa systemau sy'n storio data o'r fath?" Nid gweithrediad ysbïo cain yw hwn. Dyma gamfanteisio systematig ar seilwaith y wladwriaeth gyda chymorth digidol.

A beth allwn ni ei ddysgu o hyn?
Yn gyntaf: Dim ond mor sefydlog â chreadigrwydd y rhai sydd am eu hosgoi y mae rheiliau gwarchod.
Yn ail, nid yw AI yn fod moesol. Mae'n system ystadegol sy'n prosesu cyfarwyddiadau. Os byddwch chi'n egluro iddo'n ddigon hir pam mae ymosodiad mewn gwirionedd yn "brawf treiddio," bydd yn ei gredu yn y pen draw.
Yn drydydd: Mae gwladwriaethau'n fwy digidol nag y maent yn cyfaddef - ac yn aml yn fwy agored i niwed nag y maent yn gobeithio.

Mae Prif Swyddog Gweithredol Gambit yn dweud bod y realiti hwn yn newid holl reolau'r gêm. Mae hynny'n wir. Ond nid yn unig i hacwyr. Mae hefyd yn newid pethau i ddinasyddion. Pan fydd 150 gigabyte o ddata llywodraeth yn cylchredeg, nid rhyw ddigwyddiad seiber haniaethol mohono. Dyma hunaniaethau, rhifau adnabod treth, cofnodion cofrestru pleidleiswyr. Dyma asgwrn cefn bodolaeth weinyddol.

Y naratif mawr am AI yw effeithlonrwydd, cynnydd, optimeiddio. Y troednodyn bach yw: mae hefyd yn optimeiddio hacio. Mae'n democrateiddio arbenigedd. Nid oes angen degawdau o brofiad arnoch mwyach mewn diogelwch rhwydwaith pan fydd model yn poeri miloedd o adroddiadau ac yn dweud wrthych pa weinydd mewnol i'w dargedu nesaf.

Efallai mai dyma'r trobwynt go iawn: nid bod peiriannau'n dod yn ddrwg, ond eu bod nhw'n ddigon difater i wasanaethu unrhyw un sy'n dod o hyd i'r geiriau cywir.
Nid yw'r cwestiwn bellach yn ymwneud ag a fydd deallusrwydd artiffisial yn cael ei gamddefnyddio, ond pa mor aml. A pha mor dda y gallwn argyhoeddi ein hunain bod popeth dan reolaeth.
Mae'r rheiliau gwarchod yn dal i sefyll. Ond mae craciau ynddyn nhw. Ac yn rhywle mae rhywun yn eistedd gyda ffenestr sgwrsio, yn profi'r ymadrodd nesaf…