Hur AI kan samla ledtrådar för att förhindra framtida skolskott

Mot bakgrund av de senaste dödliga skolskottningarna i USA söker lärare, föräldrar och säkerhetsexperter teknik för att lösa problemet. I framkant är användningen av artificiell intelligens.

"Vårt mål är att se till att ett barn aldrig vill ta med sig en pistol till skolan", säger Suzy Loughlin, medgrundare och chefsråd för Firestorm, ett krishanteringsföretag. Mot detta ändamål har företaget, i samarbete med University of Alabama School of Continuing Education, utvecklat ett förebyggande program som letar efter tidiga varningssignaler hos barn som kan riskera att begå framtida våldshandlingar.

Kallad BERTHA, för Bedömningsriskhot Bedömningsprogrammet, växte idén fram från massskottet 2007 på Virginia Tech när 32 personer mördades - en av de dödligaste i USA: s historia. Skottet i februari på Marjory Stoneman Douglas High School i Parkland, Florida som dödade 17 personer väckte mer uppmärksamhet åt frågan, underströks igen i maj, av Santa Fe High School-skytte i Texas där 10 elever och lärare dödades.

Skolskottoffer sedan 1989 , Källa: Mother Jones

IncidentDödsfallSkadadTotalt antal offerÅr
Santa Fe High School-skytte (Santa Fe, TX)1013232018
Marjory Stoneman Douglas High School-skytte (Parkland, Florida)1714312018
Umpqua Community College-skytte (Roseburg, Oregon)99182015
Marysville-Pilchuck High School-skytte (Marysville, Washington)5162014
Isla Vista massmord (Santa Barbara, Kalifornien)613192014
Sandy Hook Elementary massacre (Newtown, Connecticut)272292012
Mord på Oikos University (Oakland, Kalifornien)73102012
Northern Illinois University skytte (DeKalb, Illinois)521262008
Virginia Tech-massakern (Blacksburg, Virginia)3223552007
Amish skolskytte (Lancaster County, Pennsylvania)65112006
Red Lake-massakern (Red Lake, Minnesota)105152005
Columbine High School-massakern (Littleton, Colorado)1324371999
Thurston High School-skytte (Springfield, Oregon)425291998
Westside Middle School-mord (Jonesboro, Arkansas)510151998
Lindhurst High School-skytte (Olivehurst, Kalifornien)410141992
University of Iowa skytte (Iowa City, Iowa)6171991
Stockton skolgård skytte (Stockton, Kalifornien)629351989

Riskbedömningsprogrammet är tänkt som ett skyddsnät för att fånga barn som kan behöva hjälp och ingripande innan de blir självmord eller våldsamma. Som demonstrerats efter varje tidigare händelse undrar administratörer, föräldrar och studenter varför tidiga varningssignaler - som mobbning, allusioner till vapen och referenser till Columbine High School-skytte i Colorado 1999 - inte märktes tidigare.

Använd AI för att söka efter ledtrådar

Utmaningen har varit svårigheten att söka igenom bergen av data som genereras i forum och sociala mediekonton för att hitta de få nålar som kan varna en skolrådgivare eller psykolog om att ett barn är i trubbel. Så, för att filtrera bort sådana ledtrådar online, anlitar administratörer verktyg för artificiell intelligens.

"Vårt mål är att se till att ett barn aldrig vill ta med sig en pistol till skolan."

"Vi är AI-komponenten", förklarade Mina Lux, grundaren och VD för New York-baserade Meelo Logic. Hennes företag arbetar med BERTHA-programmet med Firestorm för att utföra den första tunga lyftningen av sortering genom vad som har blivit känt som big data. "Vårt fokus är kunskapsautomatisering för att förstå sammanhanget."

Meelos programvara kan spåra kommentarer och inlägg till sin ursprungliga källa. Företaget hänvisar till processen som kausalt resonemang, men det är mer analogt med att hitta patientens noll, den ursprungliga individen som någon annan kan ha uttryckt oro över.

"Vanligtvis finns det ett första utbrott på nätet, och de gör medvetet det offentligt - det kan vara ett kall för hjälp", förklarade Hart Brown, chef för Firestorm. "Och i 80 procent av fallen vet åtminstone en annan person, så även om det första inlägget är privat, kommer troligen någon annan att göra det offentligt."

hur ai kan samla ledtrådar för att förhindra framtida skolskottprotest 1hur ai kan samla in ledtrådar för att förhindra framtida skolskott skolprotest 3hur ai kan samla in ledtrådar för att förhindra framtida skolskott skolprotest 2hur ai kan samla in ledtrådar för att förhindra framtida skolskott skolskytteprotest 4

AI-programmet ger den första screening, baserat på slangtermer som används, sammanhang, plats och relaterade länkar. Sedan flaggar Firestorms BERTHA-instrumentpanel aktivitet för eventuellt ingripande. Det är där människor - rådgivare, lärare, psykologer - går in för att bedöma om det finns ett verkligt hot, om ett barn behöver extra uppmärksamhet eftersom de uppvisar ilska eller självmordstendenser eller om aktiviteten är godartad.

Utmaningen har varit svårigheten att sikta igenom bergen av data som genereras i forum och sociala medier.

"Men ingen person är ansvarig för att fatta beslutet", säger Brenda Truelove, en programadministratör vid University of Alabama som har arbetat med Firestorm på programmet och ett tillhörande e-lärande program för lärare rikstäckande. "En person kanske saknar något, så det är ett team av människor som bestämmer vad de ska göra."

Truelove noterade att programmet bygger på erfarenheter från lärare, rättspsykologer och andra experter för att skapa en formel för att hantera potentiella kriser.

Betyder ökad säkerhet mindre integritet?

Även om AI: s potential för att förhindra framtida skolskott kan vara lovande, väcker sådan spårning och dataanalys oundvikliga farhågor om integritet och noggrannhet och om säkerheten överträffar eventuella problem.

Bryce Albert, en elever i nionde klass vid Marjory Stoneman Douglas High School, var i korridoren på tredje våningen när skytten började skjuta på studenter. När Albert såg mördaren komma ner i korridoren släppte en lärare Albert in i ett klassrum och han överlevde. Sedan den upplevelsen har han tänkt om integriteten.

Firestorm

"Tidigare var jag som, gå inte in på mina saker," berättade Albert för Digital Trends, om myndigheter som spårade sin användning av sociala medier. "Men nu har jag ändrat mig helt."

Meelos Lux betonade att AI-programmen inte har tillgång till några privata konton. all information är offentlig. Firestorms Loughlin betonade det faktum att de inte samlar in eller lagrar uppgifterna själva. Det underhålls av de enskilda skolorna, som redan har erfarenhet av att hålla studentregister. (Firestorm tar ut en licensavgift på 2 500 $ per skola, medan University of Alabama erbjuder en gratis onlineutbildning för Alabama K-12-lärare. Skolor kan också arbeta med sina egna tidiga varningsprojekt gratis genom att använda Firestorms grundläggande niostegsformel för inrätta sådana program.)

Lux medger att finesser i språk, som sarkasm, kan visa sig vara utmanande för all AI-forskning. Meelo fokuserar på textanalys snarare än den typ av bildanalys som andra AI-företag, som Cortica, studerar. Ändå finns det utrymme för misstolkning även för mänskliga deltagare.

"Det är svårt att få känslor genom sms", erkände Albert.

Å andra sidan spelar inte ett lidande program inte favoriter eller ignorerar de typer av känslomässiga eller beteendemässiga förändringar som kan indikera att problem är framför.

AI är fortfarande bara ett första filter eller verktyg för att stoppa framtida skolskott.

"I slutändan kan det vara mer exakt genom att eliminera så mycket partiskhet som möjligt", sa Firestorm's Brown. En HR-person eller rådgivare kan minimera en persons känslomässiga utbrott, till exempel genom att säga att det händer hela tiden. Den oblinkande datorn gör inga sådana ursäkter.

"Men det kräver fortfarande en mänsklig touch för att följa igenom, att intervjua den personen," sa Brown. "Datorn kommer inte att avgöra om personen behöver utvisas eller behöver rådgivning."

AI är ett verktyg, inte en lösning

Alla experter som Digital Trends pratade med för den här historien betonade det faktum att AI fortfarande bara är ett första filter eller verktyg för att stoppa framtida skolskott. Det kan generera varningar om barn i riskzonen, men det kan inte berätta för lärare hur, när eller ens om de ska ingripa. Skolor behöver fortfarande ett eget team av experter - från lärare som känner eleverna till psykologer - och kommer sannolikt att fortsätta behöva dem.

"Statistik visar att med varje skolskytte som händer finns det en högre sannolikhet för en annan skytteinspelning", säger Lux.

I slutändan är det mänskliga elementet den viktigaste faktorn. "Prata med människor och be om hjälp", sa Albert. "Var inte rädd för att be om hjälp."