Prima lege a inteligenţei artificiale: avantajele şi pericolele integrării AI în sănătate. Interviu cu Mircea Iliescu, cercetător la Cambridge

Parlamentul european pregătește legi care să limiteze şi să reglementeze inteligenţa artificială. O comisie a votat covărșitor acest lucru în sesiunea de joi. Ar trebui că sistemele să fie supravegheate de oameni, să fie transparente și să nu facă discriminări. Prezentatorul Observator, Marius Pancu, a discutat avantajele şi limitările integrării AI în sănătate cu Mircea Iliescu, cercetător la Universitatea Cambridge.

• Klaus Iohannis, primit de Joe Biden la Casa Albă. Agenda preşedintelui României, în SUA. DETALII la Observator 12:00, la Antena 1
• "N-am întâlnit aşa ceva". Aglomeraţie în vămi după minicavanţa de Paşte. Românii s-au întros acasă din Bulgaria, Grecia sau Turcia

Actul normativ va interzice și folosirea datelor biometrice ale cetățenilor pentru acțiuni preventive ale poliției sau pentru represalii, dar și identificarea emoțiilor de către forțele de ordine sau chiar de către vameși atunci când vor să depisteze mai ușor infractori fugari care se știu cu musca pe căciulă. Proiectul de lege care ar trebui votat în plen la mijlocul lunii iunie vine după ce, miercuri, medicii și experții în sănătate publică din Marea Britanie, SUA, Australia Costa Rica și Malaezia au cerut într-un articol publicat într-o revistă științifică oprirea dezvoltării inteligenței artificiale până la reglementarea domeniului. Erorile de inteligență artificială pot duce la greşeli grave în tratarea pacienților, spun aceștia, și au dat exemplul unui pulsoximetru AI care a supraestimat nivelul de oxiegen al persoanelor cu piele mai închisă la culoare, ceea ce a condus la un tratament greșit.

Iată câteva dintre cele mai importante declaraţii făcute de Mircea Iliescu, cercetător la Universitatea Cambridge:

Marius Pancu: Care ar fi părţile bune ale integrării AI în sistemul de sănătate şi până unde pot să meargă ele?

Mircea Iliescu: Noi, ca cercetători, cred că mai degrabă ne uităm la părţile bune ale implicării Inteligenţei Artificiale. Pot să spun că, din perspectiva celor care fac biologie şi medicină, sunt nişte avantaje clare, fie că vorbim de detectarea cancerului mai timpuriu, fie că vorbim de metode pe care le folosim să decodăm genomul mai uşor, fie că vorbim de metode pe care le folosim să decodăm structura 3D a proteinelor mult mai repede şi asta înseamnă să înţelegem mai bine structura lor, adică să facem medicamente noi bazate pe acea structură.

Din perspectiva medicinei şi biologiei scenetice sunt nişte avantaje clare. Bineînţeles că orice metodă nouă şi orice revoluţie în ştiinţă şi în tehnologie vine cu riscuri care trebuie bine spuse şi oamenii de ştiinţă în general le spun, cred. Nu este asta problema. Problema este ca cei care fac legile să ştie să discute întotdeauna cu cei care se pricep la aceste domenii, aş spune eu.

Marius Pancu: Cum ar putea să ajute la detectarea mai timpurie a cancerului?

Mircea Iliescu: Cum ar putea ajuta Inteligenţa Artificială la identificarea mai timpurie a cancerului? Tocmai a fost un studiu acum în Marea Britanie şi pe scan-uri, pe rezonanţă magnetică, inteligenţa artificială este ce facem şi noi cu youtube-ul. Youtube-ul învaţă la ce te uiţi tu şi îţi dă lucruri asemănătoare. Ai un set pe care îl înveţi şi, după aceea, calculatorul se duce în aceeaşi direcţie. Pe scan-uri, folosind nişte metode AI destul de complicate, detectează foarte bine formele canceroase să spunem. De exemplu, acel caz era de cancer de plămâni. Avantajele sunt clare pentru că detectează formele canceroase destul de repede şi putem să vedem, de exemplu, care sunt mai grave sau care sunt mai periculoase. Deci în viitor se bănuieşte că această metodă o să fie de mare ajutor, faţă de metodele clasice.  Avantajele sunt clare dar sigur că trebuie avut grijă şi procedat cu grijă.

Marius Pancu: Cum ar putea ajuta AI în decodarea genomului?

Mircea Iliescu: Noi folosim de mai multă vreme ideea de metode statistice complicate. Ai un set de date şi calculatorul le învaţă. Faci un training pe acele date şi apoi îi dai alte date şi îţi dă analizele mai repede. Genomul nostru are trei miliarde de unităţi, deci ai nevoie de metode complicate şi de metodele care folosesc inteligenţa artificială pot grăbi analiza şi pot să-ţi dea targetul mai uşor pentru medicamente. Deci avantajele sunt clare. Problemele de etică sau problemele de privacy, de cui aparţin datele, sunt probleme care existau şi înainte, deci nu văd că sunt neapărat probleme noi. Problemele legate de AI, ca în filmul "Terminator", cum o să facă să preia inteligenţa artificială lumea, sunt probleme care aparţin altora şi nu nouă, oamenilor de ştiinţă, şi trebuie să aibă grijă cu ele. 

Marius Pancu: Care sunt limitele sub care poate să opereze inteligenţa artificială?

Mircea Iliescu: Unii spun că nu or să existe limite în materie de utilizare a inteligenţei artificiale. Sunt alţii care sunt specialişti să spună cât de departe o să se meargă, dar bineînţeles că noi ştim că ochiul uman sau expertiza umană va fi întotdeauna esenţială. Trebuie să ne folosim discernământul şi informaţiile pe care le avem. La fel şi în detectarea cancerului. Momentan, acea analiză este în stadiul de testare pentru că nu este perfectă şi va fi întotdeauna nevoie de un specialist. Se speră în viitor ca să fie grăbite lucrurile şi să ajute inteligenţa artificială, dar şi în cazul nostru şi în cazul tuturor, oamenii care au cunoştinţe foarte bune în aceste domenii or să fie importanţi, deci nu cred că o să scăpaţi de geneticieni, ca să spun aşa. Va fi întotdeauna un anumit control, cred eu. 

Marius Pancu: Anticipaţi vreo modificare structurală a umanităţii, genetică, în urma felului în care o să învăţăm să operăm cu inteligenţa artificială?

Mircea Iliescu: Ştiţi cum e, până şi dacii au dispărut, care erau epitomul civilizaţiei şi al ... glumesc. Istoricul Yuval Harari spune foarte bine că ... bănuieşte nişte lucruri. Noi, din perspectivă evoluţionistă, cei care am mai studiat evoluţia şi ar trebui studiată evoluţia şi în România, în şcoală în România, ştim că dinozaurii au fost cel puţin 100 de milioane de ani pe planetă şi noi am fost, până acum, câteva sute de mii de ani, deci nimic nu este permanent şi bineînţeles că ceea ce noi facem şi progresul nostru poate duce la un moment dat la consecinţe nebănuite, nefaste. 

Din perspectiva genetică, noi probabil că încă evoluăm. Toată ştiinţa modernă înseamnă că noi evoluăm mai puţin acum, că nu mai există selecţie naturală, ca înainte, dar este foarte posibil să existe modificări, să ne schimbăm în timp, doar că nu o să le vedem noi acuma. Nu ştim ce o să fie în câteva generaţii sau în câteva mii de ani. Există semnale, dar nu prea ştim ce o să fie în câteva generaţii şi nu e clar că o să fim aici în câteva mii de ani sau în câteva sute de mii de ani. Nimic nu este bătut în cuie. Ştim asta din evoluţia şi din istoria evoluţionistă a planetei noastre.