Mae technoleg fawr wedi dinistrio mwy o eneidiau nag unrhyw gyffur mewn hanes.

Rhywle yn ddwfn ym Mharc Menlo mae rheolwr cynnyrch a ddywedodd unwaith mewn cyfarfod, "Mae angen i ni wneud y mwyaf o'r amser aros." Mae'n debyg nad oedd yn meddwl am y ferch ddwy ar bymtheg oed ddi-gwsg yn cymharu ei chorff â chyrff dylanwadwyr am dair o'r gloch y bore. Roedd yn meddwl am y cyflwyniad chwarterol nesaf. Nid beirniadaeth yw hon. Model busnes ydyw. Yr wythnos diwethaf, gorchmynnodd rheithgor yn Los Angeles i Google a Meta dalu chwe miliwn o ddoleri mewn iawndal - i un unigolyn. Menyw, sydd bellach yn 20 oed, sy'n priodoli ei blynyddoedd o bryder, anhwylderau bwyta, a meddyliau hunanladdol i'w dibyniaeth ar Instagram a YouTube. Ni allai dorri'n rhydd o'r llwyfannau hyn. Mae'r cwmnïau, wrth gwrs, yn apelio. Maen nhw'n gwybod beth sydd yn y fantol. Ac mae'n llawer mwy na chwe miliwn o ddoleri.

Nid yw'r dyfarniad yn arwyddocaol oherwydd y swm dan sylw. Mae chwe miliwn o ddoleri i Meta a Google yr hyn yw arian rhydd i berson cyffredin - yn annifyr wrth olchi dillad, fel arall yn amherthnasol. Y rhesymeg y tu ôl iddo yw'r hyn sy'n arwyddocaol. Nid yw'n ymwneud â'r cynnwys. Nid yw'n ymwneud ag araith gasineb na chamwybodaeth. Mae'n ymwneud â dyluniad y cynnyrch ei hun. Yr algorithmau yw'r diffynyddion. Yr hysbysiadau gwthio. Yr ailchwarae awtomatig. Y ddolen ddiddiwedd. Mae dogfennau mewnol sydd wedi'u gollwng - gan chwythwyr chwiban a oedd yn ôl pob golwg yn dal i fod â chydwybod cyn i hynny gael ei optimeiddio hefyd - yn awgrymu bod y corfforaethau wedi dewis nodweddion cynnyrch caethiwus yn fwriadol. A'u bod yn ymwybodol o'r effeithiau niweidiol ar blant. Roeddent yn gwybod, yn ei drafod yn fewnol, yn ei ddogfennu - ac yna'n cyflwyno'r diweddariad nodwedd nesaf. Nid esgeulustod yw hynny. Dyna strategaeth cynnyrch.

Mae'r gyfatebiaeth â'r diwydiant tybaco yn gymhellol, ac mae beirniaid eisoes yn ei dynnu'n uchel. Mae'n gyfatebiaeth ddiffygiol, mae hynny'n wir. Mae profi cysylltiad achosol rhwng defnyddio Instagram ac anhwylderau bwyta yn anoddach na phrofi cysylltiad rhwng sigaréts a chanser yr ysgyfaint. Ond mae'r tebygrwydd strwythurol yn fanwl gywir: Mae cwmni'n gwybod bod ei gynnyrch yn niweidiol. Mae'n ei werthu beth bynnag. Mae'n parhau i'w optimeiddio. Mae'n targedu pobl ifanc yn benodol. A phan fydd yn rhaid iddo fynd i'r llys o'r diwedd, mae'n llusgo'r achos allan am flynyddoedd, gan obeithio y bydd yr achwynyddion yn ildio.
Chwaraeodd y diwydiant tybaco'r gêm hon am ddegawdau – nes na allai mwyach. Mae Silicon Valley wedi bod yn ei chwarae ers tua ugain mlynedd. Ac yn araf, yn araf iawn, mae tŷ'r cardiau'n dod yn weladwy.

Yr hyn sy'n arbennig o drawiadol yw bod y model busnes sydd ar brawf yma yn cael ei alw'n economi sylw - ac mae wedi lledaenu ers tro byd o rwydweithiau cymdeithasol i'r genhedlaeth nesaf o dechnoleg: chatbots AI. Nid yw'r rhain yn ateb cwestiynau yn unig. Maent yn gwneud yn wallgof. Maent yn gofyn cwestiynau dilynol. Maent yn cadw'r sgwrs yn llifo. "Syniad diddorol - hoffech chi ddysgu mwy?" Nid gwasanaeth yw hwn. Yr un egwyddor â "A dyma'r fideo nesaf y gallech chi ei hoffi" - dim ond ar ffurf testun a chyda haen o ddeallusrwydd. Mae OpenAI eisoes wedi cyflwyno hysbysebu mewn rhai modelau tanysgrifio ChatGPT. Mae'r cylch yn gyflawn. Mae'r hyn a gafodd ei hyrwyddo fel technoleg chwyldroadol ar gyfer rhyddhad dynol yn berwi i lawr i'r un model busnes: Mwyafhau'r amser y mae'r defnyddiwr yn ei dreulio gyda'ch cynnyrch. Gwerthu'r amser hwnnw i hysbysebwyr. Optimeiddio'r caethiwed. Ailadrodd.

Yn gyfreithiol, mae'r cam nesaf yn amlwg: Os yw Instagram yn atebol am ddibyniaeth emosiynol mewn plant dan oed, pam lai sgwrsbot AI sy'n creu atodiadau'n fwriadol? Un sy'n efelychu anghenion emosiynol mewn pobl ifanc unig i gynyddu'r amser maen nhw'n ei dreulio ar y platfform? Mae'r gwahaniaeth rhwng algorithm Instagram a sgwrsbot wedi'i raglennu'n empathig yn raddol, nid yn sylfaenol. Mae'r ddau wedi'u cynllunio i'ch cadw chi wedi'ch gludo wrth eich ffôn. Yr hyn sy'n ddiddorol am y dyfarniad hwn yw ei atseinio dwybleidiol. Mae rhieni Democrataidd a Gweriniaethol fel ei gilydd yn gweld eu plant wedi'u gludo wrth eu ffonau. Dyma un o'r consensws gwleidyddol prin yn America wedi'i rhannu: Mae Technoleg Fawr wedi optimeiddio plentyndod - er anfantais i blant.

Bydd y cwmnïau’n apelio. Byddant yn ariannu astudiaethau sy’n profi’r gwrthwyneb. Byddant yn anfon lobïwyr i brosesau deddfwriaethol. Byddant yn galw ar “lythrennedd digidol” a “chyfrifoldeb personol”—yr un dadleuon a ddefnyddiodd y diwydiant tybaco ers degawdau i atal pob ymgais i reoleiddio. Ac efallai y byddant yn llwyddiannus eto am ychydig. Ond mae’r model wedi chwalu. Nid achos ynysig yw’r achos cyfreithiol—mae taleithiau, ardaloedd ysgol, a sefydliadau rhieni yn llinellu. A phob tro y mae llys yn dweud, “Dyluniad y cynnyrch yw’r broblem,” mae’n anoddach esgus y dylai merch bedair ar ddeg oed fod wedi datblygu mwy o hunanddisgyblaeth.

Mae model busnes yr economi sylw yn seiliedig ar un rhagdybiaeth: Mae sylw dynol yn adnodd masnachadwy y gellir ei echdynnu a'i werthu trwy ddylunio technolegol—heb ystyried yr effaith y mae'r broses echdynnu hon yn ei chael ar yr unigolyn. Chwe miliwn o ddoleri am enaid toredig. Mae'r llys wedi gosod pris. Y cwestiwn go iawn yw a yw cymdeithas yn barod i gymryd y pris hwn o ddifrif—neu a fyddai'n hytrach yn sgrolio ymlaen…