Soluţii bazate pe inteligenţă artificială care previn hărţuirea minorilor atunci când sunt pe internet

Autor: Ioana Matei Postat la 14 decembrie 2018 91 afişări

Bitdefender a folosit tehnologii bazate pe inteligenţă artificială ca să dezvolte o soluţie îmbunătăţită de control parental capabilă să detecteze orice încercare de hărţuire la care sunt supuşi minorii în timp ce navighează pe internet.

Soluţii bazate pe inteligenţă artificială care previn hărţuirea minorilor atunci când sunt pe internet

Elementul de  noutate:

În comparaţie cu soluţiile de securitate existente pe piaţă, noul modul de control parental permite atât detectarea prădătorilor online, cât şi a hărţuirii pe internet.

Modulul identifică agresorii sexuali prin depistarea atacurilor transmise în scris prin servicii de mesagerie online şi a solicitărilor sau schimburilor de fotografii cu conţinut nepotrivit. Mai mult, modulul îi semnalează părintelui atât conversaţii în care copilul este forţat să aibă un comportament nepotrivit, cât şi cereri de întâlnire în afara locuinţei sau de aflare a adresei de acasă venite din partea unor străini. Orice încercare de a obţine numere de carduri, adrese, date personale sau parole va declanşa, de asemenea, o alertă către părinte. Componenta antihărţuire este capabilă să detecteze comportamentul sau limbajul ostil - iniţiat de către copil sau îndreptat înspre el - menit să rănească emoţional o persoană, când agresiunea are loc în mod repetat şi creează un dezechilibru de putere între cele două părţi.

Modulul monitorizează constant mesajele şi fotografiile trimise pe platforme precum WhatsApp, Facebook Messenger şi Instagram, dar şi pe alte aplicaţii populare.

Părintele primeşte prin e-mail, zilnic, săptămânal sau lunar, un raport cu activitatea online a copilului, unde i se semnalează activităţile cu un grad crescut de risc şi potenţial periculoase.

Descrierea inovaţiei:

Studiile Bitdefender arată că doi din trei adolescenţi au fost hărţuiţi pe internet cel puţin o dată în ultimul an, jumătate au persoane necunoscute în lista de prieteni, iar unuia din douăzeci i s-au solicitat fotografii cu conţinut sexual. Inovaţia a pornit de la o nevoie reală a persoanelor care au iniţiat proiectul, părinţi fiind, după ce au sesizat potenţialele pericole la care se expun copiii. Ca urmare a rezultatelor unor studii de piaţă pentru testarea obiceiurilor de consum şi verificarea comportamentului online, care au inclus copii şi părinţi, specialiştii de la Bitdefender au explorat apoi principalele semne ale hărţuirii, având discuţii cu echipe de psihologi. Ei au validat informaţiile cu echipele tehnice ca să vadă în ce măsură există posibilitatea tehnologică de a fi implementate într-un produs software. Întreg procesul a durat aproximativ un an şi jumătate şi a înglobat expertiza a circa 20 de angajaţi din domenii precum dezvoltare, testare, machine learning, analiză comportamentală, management şi marketing de produs. Bugetul total alocat dezvoltării acestei inovaţii până la faza de produs a fost de peste 2 milioane de euro.

Lansat în luna octombrie 2018, modulul antihărţuire din soluţia Bitdefender pentru control parental este disponibil pentru toţi utilizatorii de Bitdefender BOX din ţările vorbitoare de limbă engleză (Statele Unite ale Americii, Canada) şi va fi inclus în viitor, ca pachet opţional, şi în soluţiile Bitdefender Internet Security şi Bitdefender Total Security.

Efectele inovaţiei:

Modulul antihărţuire din soluţia de control parental, dezvoltat integral de cercetători din România, răspunde unor nevoi fundamentale ale părinţilor: să ştie că ai lor copii sunt în siguranţă, că nu ajung accidental pe site-uri cu conţinut nepotrivit, că nu petrec prea mult timp pe dispozitive, că nu sunt hărţuiţi sau se regăsesc în situaţii conflictuale când navighează pe internet şi, totodată, că nu pun în pericol integritatea locuinţei şi a celorlalţi membri ai familiei.

După prima lună de la lansare, unu din şase utilizatori de Bitdefender BOX din Statele Unite ale Americii şi Canada foloseşte soluţia de control parental care include noul modul antihărţuire, timp în care algoritmii au analizat mii de conversaţii cu potenţial de risc. Instrumentul urmăreşte să consolideze relaţia părinte-copil şi nu se vrea a fi un instrument de invadare a vieţii personale a minorului. Astfel, părintele nu are acces la conţinutul conversaţiilor, iar alertele pe care le primeşte ar trebui să îi apropie şi să îi facă să discute despre subiectul respectiv. Mesajele primite de părinte sunt însoţite şi de recomandări ale unor psihologi, specifice fiecărei situaţii semnalate.

Urmărește Business Magazin

Preluarea fără cost a materialelor de presă (text, foto si/sau video), purtătoare de drepturi de proprietate intelectuală, este aprobată de către www.bmag.ro doar în limita a 250 de semne. Spaţiile şi URL-ul/hyperlink-ul nu sunt luate în considerare în numerotarea semnelor. Preluarea de informaţii poate fi făcută numai în acord cu termenii agreaţi şi menţionaţi in această pagină.