A szép új algoritmus

Ki az, akit még nem tiltottak le semmiért a Facebookon? Néhány évvel ezelőtt, aki tiltást kapott, különlegesnek számított: össze volt zavarodva, szégyellte, és úgy néztek rá, mint aki a tilosban jár. Néhány év múlva viszont az fog különlegesnek számítani, aki még nem kapott tiltást - és úgy néznek majd rá, mint akinek elképesztő kapcsolatai vannak.

Egy 60 napos tanmese

Egy ismerősömet néhány éve letiltotta a Facebook 30 napra egy évekkel korábban megosztott vicces kép miatt, olyan hivatkozással, ami nem volt igaz - majd rögtön letiltotta még 30 napra, mert ugyanazt a mémet már megosztotta egyszer, még régebben. Az algoritmus nem értette meg a humort: a kép egyetlen részletét emelte ki, és arra alapozva hozta meg az ítéletet, majd a büntetést.

A vádat nem előzték meg kérdések, sem lehetőség a védekezésre, a büntetés után pedig nem volt mód jogorvoslatra. Fellebbezni lehetett, amivel az ismerősöm élt is. A fellebbezés annyit jelentett, hogy „jobban megvizsgálják” a képet. Jóval a 60 napos büntetés lejárta után jött az értesítés: a fellebbezést elfogadták, a büntetést elengedik. De az már letelt…

Az automatizált ítélet

Automatizált vád, azonnali, automatizált büntetés, automatizált fellebbezés, automatizált döntés. A teljes folyamat úgy zajlik, hogy nincsenek kérdések, szembesítés, bizonyítás, eljárás, tárgyalás - és nincs mód élő emberrel kommunikálni.

Mondhatod, hogy jó, ez csak egy kép, és csak 60 nap letiltás, nem olyan nagy ügy. Ha Facebook-hirdetésekből élsz, akkor nagy ügy; de egyébként legyen igazad, nem nagy ügy - egy kicsit azért gondoljuk tovább.

Vagy csinálsz valamit, vagy nem, de az algoritmus arra jut, hogy megszegted a szabályt, és ezért megbüntet. Letilt. Vagy eltilt. Vagy levesz pénzt a számládról. Vagy börtönbüntetésre ítél. Vagy halálra.

Automatizáltan. Kérdés nélkül. Tárgyalás nélkül. A kommunikáció lehetősége nélkül. Jogorvoslat nélkül. Automatizált fellebbezésre adott automatizált válasszal, amit elhúznak döbbenetesen sokáig.

Hová vezet ez? Halálra ítélnek valakit, kivégzik, majd jön az értesítés, hogy a fellebbezést elfogadták, és jár a posztumusz bocsánatkérés? Vagy nem fogadják el, és automatikusan megszületik a Wikipédia-bejegyzés róla mint gonosztevőről - mert az algoritmus nem értett meg egy mondatot a posztban, ami elindította a lavinát?