Inteligenţa artificială (AI) din sistemele robotizate poate gestiona componentele funcţionale de securitate?

Probleme cu AI şi securitatea funcţională

Evaluarea securităţii funcţionale a roboţilor cu sisteme AI încorporate a scos la iveală două probleme semnificative: dificultatea de a evalua stările sistemelor AI şi diferenţele în valorile de evaluare a performanţei dintre sistemele de securitate funcţională şi AI.

Determinarea stării sistemelor AI poate fi dificilă, în special pentru reţelele neuronale cu o arhitectură complexă de noduri sau straturi. Dificultatea constă în diagnosticarea rezultatelor evaluării, făcând imposibilă evaluarea normalităţii sistemului. De exemplu, deciziile stocastice sunt luate atunci când sistemele AI eşuează, ceea ce înseamnă că un astfel de sistem nu poate fi tratat ca un sistem determinist, ceea ce face dificilă evaluarea acestuia ca parte a componentelor legate de securitate ale sistemului de control al securităţii funcţionale.

Valorile de evaluare a performanţei pentru AI includ acurateţea, precizia, revocarea şi specificitatea. Cu toate acestea, AI depinde de datele de învăţare care nu iau în considerare variaţiile seriilor de timp. În consecinţă, probabilitatea de eroare a sistemelor AI se modifică ocazional, ceea ce face dificilă evaluarea performanţei lor din perspectiva securităţii funcţionale, care evaluează probabilitatea de eşec în timpul funcţionării la faţa locului ca fiind constantă.

Examinarea aspectelor de mai sus evidenţiază faptul că evaluarea securităţii sistemelor AI nu este o sarcină uşoară. Astfel, îmbunătăţirea avantajelor sistemelor de producţie care utilizează roboţi colaborativi şi AI ar trebui să fie redusă la zone limitate.

Concluzie

În concluzie, în timp ce roboţii şi sistemele AI oferă multe beneficii pentru unităţile de producţie industriale, securitatea lucrătorilor este de o importanţă capitală. Prin urmare, este necesară o evaluare detaliată a riscurilor din perspectiva securităţii funcţionale. Cu toate acestea, evaluarea performanţei sistemelor AI în materie de securitate este dificilă, ceea ce face necesară restricţionarea utilizării în anumite domenii a roboţilor cu AI încorporat. Examinarea acestor probleme necesită soluţii inovatoare pentru a îmbunătăţi securitatea roboţilor cu sisteme AI încorporate.