Ética e responsabilidade na inteligência artificial com foco nas áreas de saúde, transporte, educação e segurança

José Augus­to Pai­xão Gomes
CEO da Star­tup SMART EAGLE, Admi­nis­tra­dor de Empre­sas; MBA em Geren­ci­a­men­to de Pro­je­tos; MSc em Enge­nha­ria Civil na área de con­cen­tra­ção em Ges­tão, Pro­du­ção e Meio-Ambi­en­te, com foco em Ino­va­ção e Smart Citi­es pela UFF

RESUMO 

O futu­ro que foi apre­sen­ta­do em mui­tas obras de fic­ção cien­tí­fi­ca já come­ça a fazer par­te das ati­vi­da­des huma­nas. A Inte­li­gên­cia Arti­fi­ci­al é uma das tec­no­lo­gi­as que tem cres­ci­do con­si­de­ra­vel­men­te nos últi­mos anos. Como ocor­re com gran­de par­te das novi­da­des, a IA tam­bém é foco de ques­tões éti­cas que pre­ci­sam ser dis­cu­ti­das, levan­do à cri­a­ção de nor­mas, padrões, ori­en­ta­ções e legis­la­ções per­ti­nen­tes. Cada vez mais pre­sen­te em dife­ren­tes áre­as da ati­vi­da­de huma­na, como saú­de, trans­por­tes, edu­ca­ção e segu­ran­ça, se tor­na urgen­te a dis­cus­são das opor­tu­ni­da­des tra­zi­das por essa tec­no­lo­gia para essas áre­as, mas tam­bém devem ser ava­li­a­dos os limi­tes a serem res­pei­ta­dos, prin­ci­pal­men­te do pon­to de vis­ta éti­co. Assim, o prin­ci­pal obje­ti­vo des­te tra­ba­lho é apre­sen­tar como a IA pode con­tri­buir com essas áre­as e dis­cu­tir os aspec­tos éti­cos relacionados.

Pala­vras-cha­ve: Éti­ca. IA. Inte­li­gên­cia Arti­fi­ci­al. Tecnologia. 

ABSTRACT 

The futu­re that was pre­sen­ted in many works of sci­en­ce fic­ti­on is alre­ady star­ting to be part of human acti­vi­ti­es. Arti­fi­ci­al Intel­li­gen­ce is one of the tech­no­lo­gi­es that has grown con­si­de­ra­bly in recent years. As with most new deve­lop­ments, AI is also the focus of ethi­cal issu­es that need to be dis­cus­sed, lea­ding to the cre­a­ti­on of norms, stan­dards, gui­de­li­nes, and rele­vant legis­la­ti­on. Incre­a­sin­gly pre­sent in dif­fe­rent are­as of human acti­vity, such as health, trans­port, edu­ca­ti­on, and secu­rity, it is urgent to dis­cuss the oppor­tu­ni­ti­es brought by this tech­no­logy for the­se are­as, but the limits to be res­pec­ted must also be eva­lu­a­ted, mainly from the point of view of ethi­cal view. Thus, the main objec­ti­ve of this work is to pre­sent how AI can con­tri­bu­te to the­se are­as and to dis­cuss the rela­ted ethi­cal aspects.

Keywords: AI. Arti­fi­ci­al intel­li­gen­ce. Ethics. Technology.

1 INTRODUÇÃO

Nos últi­mos 5 anos, a éti­ca da IA pas­sou de uma pre­o­cu­pa­ção aca­dê­mi­ca para um assun­to para o deba­te polí­ti­co e públi­co. A cres­cen­te oni­pre­sen­ça dos tele­fo­nes inte­li­gen­tes e dos apli­ca­ti­vos impul­si­o­na­dos por IA que mui­tos de nós ago­ra con­fi­a­mos todos os dias, o fato de que a IA está impac­tan­do cada vez mais todos os seto­res (incluin­do indús­tria, saú­de, poli­ci­a­men­to e judi­ciá­rio, trans­por­te, finan­ças e lazer), bem como a apa­ren­te pers­pec­ti­va de uma “cor­ri­da arma­men­tis­ta” de IA, levou a um núme­ro extra­or­di­ná­rio de ini­ci­a­ti­vas naci­o­nais e inter­na­ci­o­nais,  de ONGs, gru­pos aca­dê­mi­cos e indus­tri­ais, enti­da­des de clas­se e governos. 

Essas ini­ci­a­ti­vas leva­ram à publi­ca­ção de um gran­de núme­ro de con­jun­tos de prin­cí­pi­os éti­cos para robó­ti­ca e IA (pelo menos 22 con­jun­tos dife­ren­tes de prin­cí­pi­os éti­cos foram publi­ca­dos des­de janei­ro de 2017), novos padrões éti­cos estão sur­gin­do (prin­ci­pal­men­te do Bri­tish Stan­dards Ins­ti­tu­te e da IEEE Stan­dards Asso­ci­a­ti­on) e um núme­ro cres­cen­te de paí­ses (e gru­pos de paí­ses) anun­ci­ou estra­té­gi­as de IA (com inves­ti­men­tos em gran­de esca­la) e cri­ou órgãos con­sul­ti­vos ou polí­ti­cos nacionais.

O obje­ti­vo des­se tra­ba­lho é apre­sen­tar as ques­tões éti­cas que se colo­cam com a imple­men­ta­ção de inte­li­gên­cia arti­fi­ci­al, com foco nas áre­as de saú­de, trans­por­tes, edu­ca­ção e segurança. 

2 DESENVOLVIMENTO

2.1 DESAFIOS ÉTICOS NA IMPLEMENTAÇÃO DE INTELIGÊNCIA ARTIFICIAL

A defi­ni­ção de moral e éti­ca, e como isso se rela­ci­o­na com a éti­ca na imple­men­ta­ção da Inte­li­gên­cia Arti­fi­ci­al são prin­cí­pi­os morais que regem o com­por­ta­men­to de uma pes­soa ou a con­du­ção de uma ati­vi­da­de. Como exem­plo prá­ti­co, um prin­cí­pio éti­co é tra­tar a todos com res­pei­to (ACEMOGLU, RESTREPO, 2018). 

Os filó­so­fos deba­tem a éti­ca há mui­tos sécu­los, e há vári­os prin­cí­pi­os bem conhe­ci­dos, tal­vez um dos mais famo­sos seja o impe­ra­ti­vo cate­gó­ri­co de Kant “aja como você gos­ta­ria que todas as outras pes­so­as agis­sem em rela­ção a todas as outras pes­so­as” (KANT, 2012).

A éti­ca da Inte­li­gên­cia Arti­fi­ci­al está pre­o­cu­pa­da com a impor­tan­te ques­tão de como os desen­vol­ve­do­res, fabri­can­tes e ope­ra­do­res huma­nos devem se com­por­tar para mini­mi­zar os danos éti­cos que podem sur­gir da IA na soci­e­da­de, seja decor­ren­te de má con­cep­ção (antié­ti­ca), apli­ca­ção ina­de­qua­da ou mau uso (ALLEN, SMIT, WALLACH, 2015). 

O esco­po da éti­ca da IA abran­ge pre­o­cu­pa­ções ime­di­a­tas, aqui e ago­ra, sobre, por exem­plo, pri­va­ci­da­de de dados e pre­con­cei­to nos sis­te­mas de IA atu­ais; pre­o­cu­pa­ções de cur­to e médio pra­zo sobre, por exem­plo, o impac­to da IA e da robó­ti­ca nos empre­gos e no local de tra­ba­lho; e pre­o­cu­pa­ções de lon­go pra­zo sobre a pos­si­bi­li­da­de de os sis­te­mas de IA atin­gi­rem ou exce­de­rem capa­ci­da­des equi­va­len­tes a huma­nos (a cha­ma­da supe­rin­te­li­gên­cia) (BORENSTEIN, ARKIN, 2019). 

2.2 RESPONSABILIDADES NA UTILIZAÇÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL EM SAÚDE

A inte­li­gên­cia arti­fi­ci­al e a robó­ti­ca têm avan­ça­do rapi­da­men­te para o domí­nio dos cui­da­dos de saú­de e desem­pe­nha­rão cada vez mais papéis no diag­nós­ti­co e no tra­ta­men­to clí­ni­co. Em algu­mas áre­as fun­da­men­tais da medi­ci­na, como o diag­nós­ti­co por ima­gem médi­ca, o apren­di­za­do de máqui­na pro­vou igua­lar ou até mes­mo supe­rar nos­sa capa­ci­da­de de detec­tar doen­ças. A IA incor­po­ra­da, ou robôs, já está envol­vi­da em uma série de fun­ções que afe­tam a segu­ran­ça físi­ca das pes­so­as. Em junho de 2005, um robô cirúr­gi­co de um hos­pi­tal na Fila­dél­fia apre­sen­tou defei­to duran­te uma cirur­gia de prós­ta­ta, ferin­do o paci­en­te. Em junho de 2015, um tra­ba­lha­dor de uma fábri­ca da Volkswa­gen na Ale­ma­nha foi esma­ga­do até a mor­te por um robô na linha de pro­du­ção. Em junho de 2016, um car­ro da Tes­la que ope­ra­va no modo pilo­to auto­má­ti­co coli­diu com um cami­nhão de gran­de por­te, matan­do o pas­sa­gei­ro do car­ro (YADRON, TYNAN, 2016). 

À medi­da que os robôs se tor­nam mais pre­va­len­tes, o poten­ci­al de danos futu­ros aumen­ta­rá, par­ti­cu­lar­men­te no caso de car­ros sem moto­ris­ta, robôs assis­ti­vos e dro­nes, que enfren­ta­rão deci­sões que têm con­sequên­ci­as reais para a segu­ran­ça e o bem-estar huma­no (LIN et al., 2017). 

Tal­vez a ques­tão éti­ca mais impor­tan­te decor­ren­te do cres­ci­men­to da IA e da robó­ti­ca na saú­de seja a da segu­ran­ça e da pre­ven­ção de danos. É vital que os robôs não pre­ju­di­quem as pes­so­as e que elas este­jam segu­ras para tra­ba­lhar. Esse pon­to é espe­ci­al­men­te impor­tan­te em áre­as da saú­de que lidam com pes­so­as vul­ne­rá­veis, como: doen­tes, ido­sos e cri­an­ças. As tec­no­lo­gi­as de saú­de digi­tal ofe­re­cem o poten­ci­al de melho­rar a pre­ci­são do diag­nós­ti­co e dos tra­ta­men­tos, mas é neces­sá­rio esta­be­le­cer com­ple­ta­men­te o inves­ti­men­to de segu­ran­ça e desem­pe­nho de lon­go pra­zo de uma tec­no­lo­gia em ensai­os clínicos. 

O inves­ti­men­to em ensai­os clí­ni­cos será essen­ci­al para imple­men­tar com segu­ran­ça as ino­va­ções de saú­de que os sis­te­mas de IA ofe­re­cem. Com­pre­en­são do usuá­rio A apli­ca­ção cor­re­ta da IA por um pro­fis­si­o­nal de saú­de é impor­tan­te para garan­tir a segu­ran­ça do paci­en­te. Com a genô­mi­ca e o apren­di­za­do de máqui­na se tor­nan­do incor­po­ra­dos nos diag­nós­ti­cos e na toma­da de deci­sões médi­cas, os pro­fis­si­o­nais de saú­de pre­ci­sam se alfa­be­ti­zar digi­tal­men­te para enten­der cada fer­ra­men­ta tec­no­ló­gi­ca e usá-la adequadamente. 

É impor­tan­te que os usuá­ri­os con­fi­em na IA apre­sen­ta­da, mas este­jam cien­tes dos pon­tos for­tes e fra­cos de cada fer­ra­men­ta, reco­nhe­cen­do quan­do a vali­da­ção é neces­sá­ria. Mes­mo que uma com­pre­en­são pro­fun­da da mate­má­ti­ca seja tor­na­da obri­ga­tó­ria, a com­ple­xi­da­de e a natu­re­za apren­di­da dos algo­rit­mos de apren­di­za­do de máqui­na mui­tas vezes impe­dem a capa­ci­da­de de enten­der como uma con­clu­são foi fei­ta a par­tir de um con­jun­to de dados – a cha­ma­da “cai­xa pre­ta” (SCHÖNBERGER, 2019). 

Um cami­nho pos­sí­vel para garan­tir a segu­ran­ça seria licen­ci­ar a IA para pro­ce­di­men­tos médi­cos espe­cí­fi­cos e “des­car­tar” a IA se um cer­to núme­ro de erros for come­ti­do (HART, 2018). Há tam­bém uma pre­o­cu­pa­ção com rela­ção à segu­ran­ça dos dados médi­cos pes­so­ais neces­sá­ri­os para algo­rit­mos de saú­de, como por exem­plo, que os dados cole­ta­dos por ras­tre­a­do­res pos­sam ser ven­di­dos a ter­cei­ros, como com­pa­nhi­as de segu­ros, que pode­ri­am usar esses dados para recu­sar cober­tu­ra de saú­de (NATIONAL PUBLIC RADIO, 2018). 

Os hac­kers são outra gran­de pre­o­cu­pa­ção, pois for­ne­cer segu­ran­ça ade­qua­da para sis­te­mas aces­sa­dos por uma série de pro­fis­si­o­nais médi­cos é pro­ble­má­ti­co. O com­par­ti­lha­men­to de dados médi­cos pes­so­ais é fun­da­men­tal para que os algo­rit­mos de apren­di­za­do de máqui­na avan­cem nas inter­ven­ções de saú­de, mas as lacu­nas na gover­nan­ça de infor­ma­ções for­mam uma bar­rei­ra con­tra o com­par­ti­lha­men­to res­pon­sá­vel e éti­co de dados. Estru­tu­ras cla­ras para como a equi­pe de saú­de e os pes­qui­sa­do­res usam dados, como a genô­mi­ca, de for­ma a pro­te­ger a con­fi­den­ci­a­li­da­de do paci­en­te são neces­sá­ri­os para esta­be­le­cer a con­fi­an­ça públi­ca e per­mi­tir avan­ços nos algo­rit­mos de saú­de (NHS’ TOPOL REVIEW, 2009). 

Embo­ra a IA pro­me­ta redu­zir o núme­ro de per­cal­ços médi­cos, quan­do ocor­rem pro­ble­mas, a res­pon­sa­bi­li­da­de legal deve ser esta­be­le­ci­da. Se o equi­pa­men­to puder ser pro­va­do como defei­tu­o­so, o fabri­can­te é res­pon­sá­vel, mas mui­tas vezes é com­pli­ca­do esta­be­le­cer o que deu erra­do duran­te um pro­ce­di­men­to e se alguém, pes­so­al médi­co ou máqui­na, é o cul­pa­do. Por exem­plo, hou­ve pro­ces­sos con­tra o assis­ten­te cirúr­gi­co de Da Vin­ci, mas o robô con­ti­nua a ser ampla­men­te acei­to. No caso de algo­rit­mos de “cai­xa pre­ta”, onde é impos­sí­vel deter­mi­nar como uma con­clu­são é alcan­ça­da, é com­pli­ca­do esta­be­le­cer negli­gên­cia por par­te do pro­du­tor do algo­rit­mo (HART, 2018). 

Por enquan­to, a IA é usa­da como um auxi­li­ar para deci­sões de espe­ci­a­lis­tas e, por­tan­to, os espe­ci­a­lis­tas con­ti­nu­am sen­do a par­te res­pon­sá­vel na mai­o­ria dos casos. Alguns espe­ram que essas tec­no­lo­gi­as aju­dem a cor­ri­gir as desi­gual­da­des em saú­de cau­sa­das pela edu­ca­ção pre­cá­ria, desem­pre­go e assim por dian­te. No entan­to, exis­te o ris­co de que indi­ví­du­os que não podem pagar pelas tec­no­lo­gi­as neces­sá­ri­as ou não têm a “lite­ra­cia digi­tal” exi­gi­da sejam excluí­dos, refor­çan­do assim as desi­gual­da­des de saú­de exis­ten­tes (WALLACH, ALLEN, 2009). 

Se intro­du­zi­dos com pen­sa­men­to cui­da­do­so e ori­en­ta­ções, os robôs de acom­pa­nha­men­to e cui­da­do, por exem­plo, pode­ri­am melho­rar a vida dos ido­sos, redu­zin­do sua depen­dên­cia e cri­an­do mais opor­tu­ni­da­des de inte­ra­ção soci­al. Ima­gi­ne um robô de home care que pode­ria: lem­brá-lo de tomar seus medi­ca­men­tos; bus­car itens para você se você está mui­to can­sa­do ou já está na cama; exe­cu­tar tare­fas sim­ples de lim­pe­za; e aju­dá-lo a ficar em con­ta­to com sua famí­lia, ami­gos e pro­fis­si­o­nal de saú­de via link de vídeo. No entan­to, foram levan­ta­das ques­tões sobre se um robô “frio” e sem emo­ção pode real­men­te subs­ti­tuir o toque empá­ti­co de um huma­no (JOHNSTON, 2015). 

2.3 RESPONSABILIDADES NA UTILIZAÇÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL EM TRANSPORTE

Embo­ra a ideia de car­ros autô­no­mos exis­ta pelo menos des­de a déca­da de 1920, é ape­nas nos últi­mos anos que a tec­no­lo­gia se desen­vol­veu a um pon­to em que estão apa­re­cen­do nas vias públi­cas. De acor­do com o orga­nis­mo de nor­ma­li­za­ção auto­mó­vel SAE Inter­na­ti­o­nal (2018), exis­tem seis níveis de auto­ma­ti­za­ção da con­du­ção. No entan­to, à medi­da que se sobe os níveis e colo­ca-se mais res­pon­sa­bi­li­da­de no sis­te­ma auto­ma­ti­za­do do que no moto­ris­ta huma­no, uma série de ques­tões éti­cas emergem. 

Os con­du­to­res estão legal­men­te auto­ri­za­dos a uti­li­zar fun­ções de con­du­ção assis­ti­da na via públi­ca, des­de que per­ma­ne­çam a car­go dos veí­cu­los em todos os momen­tos. No entan­to, mui­tas des­tas fun­ções de con­du­ção assis­ti­da ain­da não foram sujei­tas a uma cer­ti­fi­ca­ção de segu­ran­ça inde­pen­den­te e, como tal, podem repre­sen­tar um ris­co para os con­du­to­res e outros uten­tes da estra­da (ETHICS COMMISION, 2017). 

A indús­tria de veí­cu­los autô­no­mos está entran­do em sua fase mais peri­go­sa, com os car­ros ain­da não sen­do total­men­te autô­no­mos, mas os ope­ra­do­res huma­nos não sen­do total­men­te enga­ja­dos (SOLON, 2018). Os ris­cos que isso repre­sen­ta foram tra­zi­dos à aten­ção gene­ra­li­za­da após a pri­mei­ra fata­li­da­de de pedes­tres envol­ven­do um car­ro autô­no­mo. A tra­gé­dia acon­te­ceu no Ari­zo­na, nos Esta­dos Uni­dos, em maio de 2018, quan­do um AV de nível 3 que esta­va sen­do tes­ta­do pela Uber coli­diu com Elai­ne Herz­berg, de 49 anos, enquan­to ela cami­nha­va de bici­cle­ta por uma rua. Foi deter­mi­na­do que a Uber “não era cri­mi­nal­men­te res­pon­sá­vel” pelos pro­mo­to­res (SHEPHERDSON, SOMERVILLE, 2019), e o rela­tó­rio pre­li­mi­nar do Con­se­lho Naci­o­nal de Segu­ran­ça de Trans­por­te dos EUA (NTSB, 2018), que não tirou con­clu­sões sobre a cau­sa, dis­se que todos os ele­men­tos do sis­te­ma de dire­ção autô­no­ma esta­vam ope­ran­do nor­mal­men­te no momen­to do acidente. 

A Uber dis­se que o moto­ris­ta é cha­ma­do a inter­vir e agir em situ­a­ções que exi­gem fre­na­gem de emer­gên­cia – levan­do alguns comen­ta­ris­tas a denun­ci­ar a comu­ni­ca­ção enga­no­sa aos con­su­mi­do­res em tor­no dos ter­mos “car­ros autô­no­mos” e “pilo­to auto­má­ti­co” (LEGGETT, 2018). 

Os sis­te­mas pro­pri­e­tá­ri­os de regis­tro de dados atu­al­men­te ins­ta­la­dos em Veí­cu­los autô­no­mos sig­ni­fi­cam que os inves­ti­ga­do­res de aci­den­tes depen­dem for­te­men­te da coo­pe­ra­ção dos fabri­can­tes para for­ne­cer dados crí­ti­cos sobre os even­tos que ante­ce­dem um aci­den­te (STILGOE, WINFIELD, 2018). Uma solu­ção é equi­par todos os futu­ros AVs com gra­va­do­res de dados de even­tos padrão da indús­tria — a cha­ma­da “cai­xa pre­ta éti­ca” — que inves­ti­ga­do­res inde­pen­den­tes de aci­den­tes pode­ri­am aces­sar. Isso espe­lha­ria o mode­lo já exis­ten­te para inves­ti­ga­ções de aci­den­tes aére­os (SAMPLE, 2017). 

2.4 RESPONSABILIDADES NA UTILIZAÇÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL EM EDUCAÇÃO

As tec­no­lo­gi­as infor­má­ti­cas e as suas apli­ca­ções carac­te­ri­zam-se como um dos desen­vol­vi­men­tos impor­tan­tes na edu­ca­ção. A edu­ca­ção aco­lhe as tec­no­lo­gi­as de IA, sua apli­ca­ção asso­ci­a­da à apren­di­za­gem e ao ensi­no é cres­cen­te a cada dia. (EDUCASE, 2019). 

O rela­tó­rio publi­ca­do pela mes­ma orga­ni­za­ção pre­viu que o aumen­to na ado­ção da tec­no­lo­gia de IA será ain­da mai­or do que o obser­va­do antes. A impor­tân­cia da IA na edu­ca­ção não pode ser nega­da e seu papel no cam­po está liga­do ao seu futu­ro. A edu­ca­ção aco­lheu a entra­da da IA de uma for­ma ou de outra, mas mui­tos edu­ca­do­res des­co­nhe­cem o que é (HINOJO-LUCENA et al., 2019).

A IA é ine­vi­tá­vel na edu­ca­ção e sua apli­ca­ção exis­te para auxi­li­ar os edu­ca­do­res no cum­pri­men­to dos obje­ti­vos. A ques­tão sobre como a IA impac­ta a edu­ca­ção per­ma­ne­ce. A IA é um cam­po em apren­di­za­do de máqui­na que con­sis­te em soft­ware capaz de reco­nhe­cer padrões, fazer pre­vi­sões e apren­der a fazer um novo padrão ou tomar uma deci­são por con­ta pró­pria. Ou seja, tem o know-how para res­pon­der de acor­do com a situ­a­ção, que não era um pro­gra­ma com seu dese­nho ini­ci­al. A IA faz isso acon­te­cer por meio de seus agen­tes raci­o­nais, que são res­pon­sá­veis por fazer um com­por­ta­men­to ori­en­ta­do a obje­ti­vos (RUSSEL, NORVIG,  2010).

Pes­qui­sa­do­res têm demons­tra­do que a apren­di­za­gem con­sis­te em um exer­cí­cio soci­al com­pos­to por cola­bo­ra­ção e inte­ra­ção. As apli­ca­ções de IA têm três cate­go­ri­as prin­ci­pais na edu­ca­ção: tuto­res pes­so­ais, apren­di­za­gem cola­bo­ra­ti­va e rea­li­da­de vir­tu­al. A cola­bo­ra­ção onli­ne pre­ci­sa ser mode­ra­da. Atra­vés da rea­li­da­de vir­tu­al inte­li­gen­te, os alu­nos pode­ri­am ser enga­ja­dos e gui­a­dos em um ambi­en­te base­a­do em jogos de apren­di­za­gem e rea­li­da­de vir­tu­al con­fiá­vel, onde o tra­ba­lho de pro­fes­so­res, faci­li­ta­do­res, etc. pode­ria ser rea­li­za­da por agen­tes vir­tu­ais em labo­ra­tó­ri­os vir­tu­ais remo­tos (PEREZ et al., 2017).

A IA não só faci­li­ta o pro­ces­so de edu­ca­ção e apren­di­za­gem por meio de salas vir­tu­ais, mas tam­bém pode ser usa­da na ava­li­a­ção, espe­ci­al­men­te quan­do há gran­des quan­ti­da­des de dados dos alu­nos. Ele pode gerar uma ava­li­a­ção e feed­back just-in-time, ao con­trá­rio da manei­ra tra­di­ci­o­nal de um stop-and-test. Por meio de apli­ca­ti­vos de IA, as rea­li­za­ções de apren­di­za­gem dos alu­nos podem ser regis­tra­das e ana­li­sa­das de tem­pos em tem­pos. Pos­sui algo­rit­mos para a pre­vi­são do pro­gres­so dos alu­nos, chan­ces de obten­ção de notas e pre­o­cu­pa­ções de tare­fas com alta pro­ba­bi­li­da­de (BAHADIR, 2016). 

2.5 RESPONSABILIDADES NA UTILIZAÇÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL EM SEGURANÇA

A Inte­li­gên­cia Arti­fi­ci­al (IA) é usa­da para obter inven­tá­ri­os com­ple­tos e pre­ci­sos sobre usuá­ri­os, dis­po­si­ti­vos e apli­ca­ti­vos que empre­sas ou indi­ví­du­os usam para aces­sar seus sis­te­mas de infor­ma­ção.  A IA tam­bém auxi­lia na medi­ção e cate­go­ri­za­ção das orga­ni­za­ções para faci­li­tar o con­tro­le de esto­que (BALBIX, n.d.).  

Os pro­to­co­los de segu­ran­ça tra­di­ci­o­nais estão cada vez mais falhan­do em detec­tar e pro­te­ger os sis­te­mas de infor­ma­ção con­tra ame­a­ças à segu­ran­ça. No pas­sa­do recen­te, mui­tas orga­ni­za­ções regis­tra­ram situ­a­ções em que seus firewalls de segu­ran­ça foram igno­ra­dos por ciber­cri­mi­no­sos que estão con­ti­nu­a­men­te pro­cu­ran­do novos cami­nhos para explo­rar. Por­tan­to, a melhor for­ma de as empre­sas se pro­te­ge­rem de hac­kers é ado­tar uma téc­ni­ca mais inte­li­gen­te e planejada. 

A Inte­li­gên­cia Arti­fi­ci­al (IA) ofe­re­ce uma ampla gama de tec­no­lo­gi­as de segu­ran­ça que pro­va­ram detec­tar efe­ti­va­men­te o com­por­ta­men­to inco­mum de uma rede de segu­ran­ça em sis­te­mas de geren­ci­a­men­to de dados. Os sis­te­mas de Inte­li­gên­cia Arti­fi­ci­al (IA) podem detec­tar e rela­tar quais­quer ano­ma­li­as pre­sen­tes em con­jun­tos de dados por meio do con­cei­to de apren­di­za­do de máquina. 

O apren­di­za­do de máqui­na é um aspec­to da Inte­li­gên­cia Arti­fi­ci­al (IA) que envol­ve reco­nhe­cer padrões de dados e fazer pre­vi­sões sobre os efei­tos des­ses padrões usan­do apren­di­za­do ou expe­ri­ên­ci­as pas­sa­das. Os sis­te­mas de Inte­li­gên­cia Arti­fi­ci­al (IA) têm a capa­ci­da­de de gerar resul­ta­dos con­si­de­ra­dos rela­ci­o­na­dos ao raci­o­cí­nio e fun­ci­o­na­men­to huma­nos. A Inte­li­gên­cia Arti­fi­ci­al (IA) pode iso­lar dados com­pro­me­ti­dos.  Os iso­la­men­tos são impor­tan­tes por­que aju­dam indi­ví­du­os ou empre­sas a eli­mi­nar falhas em seus sis­te­mas e evi­tar novos ata­ques de malwa­re em suas redes (TOLANI, TOLANI, 2019). 

A IA melho­rou o tra­ba­lho dos espe­ci­a­lis­tas em segu­ran­ça, remo­ven­do o ruí­do de dados inde­se­ja­dos den­tro do sis­te­ma. A tec­no­lo­gia apren­de com as infor­ma­ções for­ne­ci­das e usa sua inte­li­gên­cia para detec­tar ati­vi­da­des anô­ma­las, uma vez que con­se­gue com­pre­en­der o ambi­en­te ciber­né­ti­co (BAUM, 2017). 

De acor­do com Eve­ritt, Goert­zel, e Pota­pov (2017), a Inte­li­gên­cia Arti­fi­ci­al (IA) é cada vez mais uti­li­za­da em edu­ca­ção, saú­de e manu­fa­tu­ra devi­do à sua adap­ta­bi­li­da­de na ges­tão e segu­ran­ça de dados.  No futu­ro, pode ser pos­sí­vel cri­ar cen­tros ciber­né­ti­cos livres de erros por meio de Inte­li­gên­cia Arti­fi­ci­al (IA), por­que a tec­no­lo­gia é impul­si­o­na­da por meio de apren­di­za­do de máquina. 

3 DISCUSSÃO E RESULTADOS

A IA pode afe­tar as inte­ra­ções e rela­ções huma­no-huma­nas den­tro do domí­nio da saú­de, par­ti­cu­lar­men­te entre paci­en­te e médi­co, e poten­ci­al­men­te inter­rom­per a con­fi­an­ça que depo­si­ta­mos em nos­so médi­co. Pes­qui­sas de psi­co­lo­gia mos­tram que as pes­so­as des­con­fi­am daque­les que tomam deci­sões morais cal­cu­lan­do cus­tos e bene­fí­ci­os – como os com­pu­ta­do­res fazem.

As novas tec­no­lo­gi­as, como apli­ca­ti­vos de moni­to­ra­men­to de saú­de, libe­ra­rão tem­po da equi­pe para inte­ra­ções mais dire­tas com os paci­en­tes e, por­tan­to, poten­ci­al­men­te aumen­ta­rão a qua­li­da­de geral do aten­di­men­to. Atu­al­men­te, os robôs estão lon­ge de serem ver­da­dei­ros com­pa­nhei­ros. Embo­ra eles pos­sam inte­ra­gir com as pes­so­as, e até mes­mo mos­trar emo­ções simu­la­das, sua capa­ci­da­de de con­ver­sa­ção ain­da é extre­ma­men­te limi­ta­da, e eles não subs­ti­tu­em o amor e a aten­ção humana. 

Em pri­mei­ro lugar, os médi­cos são expli­ci­ta­men­te cer­ti­fi­ca­dos e licen­ci­a­dos para exer­cer a medi­ci­na, e sua licen­ça indi­ca que eles têm habi­li­da­des, conhe­ci­men­tos e valo­res espe­cí­fi­cos, como “não cau­sar dano”. Se um robô subs­ti­tuir um médi­co para um deter­mi­na­do tra­ta­men­to ou tare­fa diag­nós­ti­ca, isso pode ame­a­çar a con­fi­an­ça paci­en­te-médi­co, já que o paci­en­te ago­ra pre­ci­sa saber se o sis­te­ma está devi­da­men­te apro­va­do ou “licen­ci­a­do” para as fun­ções que desem­pe­nha. Em segun­do lugar, os paci­en­tes con­fi­am nos médi­cos por­que os veem como para­dig­mas de espe­ci­a­li­za­ção. Se os médi­cos fos­sem vis­tos como “meros usuá­ri­os” da IA, se espe­ra­ria que seu papel fos­se rebai­xa­do aos olhos do públi­co, minan­do a con­fi­an­ça. Em ter­cei­ro lugar, as expe­ri­ên­ci­as de um paci­en­te com seu médi­co são um fator sig­ni­fi­ca­ti­vo de confiança. 

Um resul­ta­do que se obser­va é a cole­ta de quan­ti­da­des sig­ni­fi­ca­ti­vas de dados pelos fabri­can­tes de Veí­cu­los Autô­no­mos. À medi­da que esses veí­cu­los se tor­nam cada vez mais comuns nas estra­das, sur­ge a per­gun­ta: até que pon­to esses dados estão com­pro­me­ten­do os direi­tos de pri­va­ci­da­de e pro­te­ção de dados de moto­ris­tas e pas­sa­gei­ros? Já sur­gi­ram ques­tões de geren­ci­a­men­to de dados e pri­va­ci­da­de, com algu­mas levan­tan­do pre­o­cu­pa­ções sobre o poten­ci­al uso inde­vi­do de dados para fins publicitários.

O impac­to ambi­en­tal dos car­ros autô­no­mos tam­bém deve ser con­si­de­ra­do. Embo­ra os car­ros autô­no­mos tenham o poten­ci­al de redu­zir sig­ni­fi­ca­ti­va­men­te o uso de com­bus­tí­vel e as emis­sões asso­ci­a­das, essas eco­no­mi­as pode­ri­am ser com­pen­sa­das pelo fato de que os car­ros autô­no­mos tor­nam mais fácil e atra­en­te diri­gir lon­gas distâncias.

Pode-se resu­mir que a IA pode desem­pe­nhar um papel notá­vel na edu­ca­ção. E para fun­ci­o­nar com o mun­do avan­ça­do moder­no, as orga­ni­za­ções do setor edu­ca­ci­o­nal pre­ci­sam ado­tar tec­no­lo­gi­as de IA para edu­ca­ção e apren­di­za­gem. As orga­ni­za­ções edu­ca­ci­o­nais podem imple­men­tar a IA de acor­do com seus requi­si­tos e objetivos.

As orga­ni­za­ções pre­ci­sam enten­der como vári­as fer­ra­men­tas e pro­ces­sos de segu­ran­ça que empre­ga­ram podem afe­tar sua segu­ran­ça geral e man­ter uma pos­tu­ra de segu­ran­ça está­vel. A Inte­li­gên­cia Arti­fi­ci­al (IA) pode aju­dar nis­so, cri­an­do um pro­gra­ma que seja está­vel e aler­te sobre as lacu­nas exis­ten­tes. Pre­vi­são de ris­cos de vio­la­ção Além do geren­ci­a­men­to de inven­tá­rio de ati­vos de TI, expo­si­ção a ame­a­ças e efi­cá­cia de con­tro­le, a IA tam­bém pode pre­ver como, quan­do e onde uma empre­sa tem mai­or pro­ba­bi­li­da­de de sofrer uma vio­la­ção. Por meio des­sa pre­vi­são, a Inte­li­gên­cia Arti­fi­ci­al (IA) aju­da as orga­ni­za­ções a pla­ne­ja­rem, por meio de fer­ra­men­tas e alo­ca­ção de recur­sos, para supe­rar a fra­que­za quan­do ela ocor­re ou pre­ve­ni-la antes que ela ocorra. 

Em suma, os sis­te­mas de Inte­li­gên­cia Arti­fi­ci­al (IA) aumen­tam a pro­fi­ci­ên­cia da ges­tão da segu­ran­ça da infor­ma­ção, inves­ti­gan­do sinais de alta pro­ba­bi­li­da­de e focan­do em selar as áre­as mais fra­cas den­tro do sistema.

4 CONCLUSÃO

Con­for­me apre­sen­ta­do, a Inte­li­gên­cia Arti­fi­ci­al (IA) está pre­sen­te em diver­sas áre­as da ati­vi­da­de huma­na, com des­ta­que para a saú­de, trans­por­te, edu­ca­ção e segu­ran­ça, que cons­ti­tu­em o obje­to des­te trabalho.

Tor­nou-se uma tec­no­lo­gia neces­sá­ria para aumen­tar os esfor­ços huma­nos na ges­tão des­sas áre­as.  Como indi­ví­du­os e empre­sas não podem mais pro­te­ger seus sis­te­mas de infor­ma­ção dinâ­mi­cos usan­do firewalls e outras tec­no­lo­gi­as tra­di­ci­o­nais, a Inte­li­gên­cia Arti­fi­ci­al (IA) for­ne­ce uma exce­len­te estru­tu­ra para ana­li­sar, pro­te­ger, miti­gar, detec­tar e res­pon­der a lacu­nas nos pro­to­co­los de segu­ran­ça que as orga­ni­za­ções usam. 

A IA iden­ti­fi­ca e pri­o­ri­za ris­cos, dan­do à TI a opor­tu­ni­da­de de iden­ti­fi­car ins­tan­ta­ne­a­men­te malwa­re den­tro de suas redes e gerar uma estra­té­gia de res­pos­ta a inci­den­tes.  Como dis­cu­ti­do, a IA tem mui­tas apli­ca­ções na ges­tão da segu­ran­ça da infor­ma­ção, nota­da­men­te; res­pos­ta a inci­dên­ci­as, pre­vi­são de vio­la­ções, con­tro­le de efe­ti­vi­da­de e ges­tão de esto­que. No entan­to, a IA per­mi­te que as equi­pes em segu­ran­ça ciber­né­ti­ca desen­vol­vam uma máqui­na pode­ro­sa e seme­lhan­te a um ser huma­no que ultra­pas­sa os limi­tes de seu conhe­ci­men­to sobre geren­ci­a­men­to de dados e pro­to­co­los de segu­ran­ça, esta­bi­li­zan­do assim o geren­ci­a­men­to de segu­ran­ça da informação.

O outro lado da imple­men­ta­ção da IA é o temor pela subs­ti­tui­ção dos huma­nos em cer­tas ati­vi­da­des. Por exem­plo, o cres­ci­men­to dos Veí­cu­los autô­no­mos pro­va­vel­men­te colo­ca­rá cer­tos empre­gos — prin­ci­pal­men­te moto­ris­tas de ôni­bus, táxis e cami­nhões — em ris­co. No médio pra­zo, os moto­ris­tas de cami­nhão enfren­tam o mai­or ris­co, pois os cami­nhões de lon­ga dis­tân­cia estão na van­guar­da da tec­no­lo­gia de veí­cu­los autônomos.

Ape­sar de ser esse um aspec­to impor­tan­te a se con­si­de­rar, jun­ta­men­te com os aspec­tos éti­cos rela­ci­o­na­dos a esse tema, espe­ci­a­lis­tas jul­gam que a pró­pria evo­lu­ção da tec­no­lo­gia e das rela­ções de tra­ba­lho fará emer­gir novas colo­ca­ções para os humanos.

REFERÊNCIAS BIBLIOGRÁFICAS

ACEMOGLU, D.; RESTREPO, P. (2018). Auto­ma­ção de bai­xa e alta habi­li­da­de. Jor­nal do Capi­tal Huma­no 2018, vol. 12, no. 2.

ALLEN, C.; SMIT, I.; WALLACH, W. (2015). Mora­li­da­de arti­fi­ci­al: Abor­da­gens top-down, bot­tom-up e híbri­das. Éti­ca e Tec­no­lo­gia da Infor­ma­ção. doi:10.1007/s10676-006‑0004‑4. 

BAHADIR, E. (2016). Using Neu­ral Network and Logis­tic Regres­si­on Analy­sis to Pre­dict Pros­pec­ti­ve Mathe­ma­tics Tea­chers’ Aca­de­mic Suc­cess upon Ente­ring Gra­du­a­te Edu­ca­ti­on. Educ. Sci. The­ory Pract. 2016, 16, 943–964.

BALBIX. Using  Arti­fi­ci­al  Intel­li­gen­ce  in  cyber­se­cu­rity.  (n.d.). Dis­po­ní­vel em https://www.balbix.com/insights/artificial-intelligence-in-cybersecurity/ Aces­so em 01 de julho de 2023.

BAUM, S. (2017). A sur­vey of arti­fi­ci­al gene­ral intel­li­gen­ce pro­jects for ethics, risk, and policy. Glo­bal Catas­trophic Risk Ins­ti­tu­te Wor­king Paper, 17–1.

BORENSTEIN, J.; ARKIN, R.C. (2019).  Robôs, éti­ca e inti­mi­da­de: a neces­si­da­de de pes­qui­sa cien­tí­fi­ca. Asso­ci­a­ção Inter­na­ci­o­nal de Com­pu­ta­ção e Filo­so­fia. 

EDUCAUSE. (2019). Hori­zon Report: 2019 Higher Edu­ca­ti­on Edi­ti­on. Retri­e­ved from EDUCAUSE Lear­ning Ini­ti­a­ti­ve and The New Media Con­sor­tium. Dis­po­ní­vel em https://library.educause.edu/-/media/files/library/2019/4/2019horizonreport.pdf. Aces­so em 01 de julho de 2023. 

ETHICS COMMISSION (2017). Ethics’s Com­mis­si­on’s com­ple­te report on auto­ma­ted and con­nec­ted dri­ving. Fede­ral Minis­try of Trans­port and Infras­truc­tu­re. Dis­po­ní­vel em https://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.html?nn=187598. Aces­so em 01 de julho de 2023. 

EVERITT, T.; GOERTZEL, B.; POTAPOV, A. (2017). Arti­fi­ci­al gene­ral intel­li­gen­ce. Lec­tu­re. Notes in Arti­fi­ci­al Intel­li­gen­ce. Hei­del­berg: Springer.

HART, R, D. (2018). Para quem recla­mar quan­do uma máqui­na estra­gar sua cirur­gia? Quartz. Dis­po­ní­vel em https://qz.com/1367206/whos-to-blame-when-a-machine-botches-your-surgery/. Aces­so em 01 de julho de 2023.

HINOJO-LUCENA, F.-J.; AZNAR-DÍAZ, I.; CÁCERES-RECHE, M.-P.; ROMERO-RODRÍGUEZ, J.-M. (2019). Arti­fi­ci­al Intel­li­gen­ce in Higher Edu­ca­ti­on: A Bibli­o­me­tric Study on Its Impact in the Sci­en­ti­fic Lite­ra­tu­re. Educ. Sci. 2019, 9, 51. 

JOHNSTON, A. K. (2015). Robôs con­for­tam paci­en­tes com demên­cia, mas levan­tam pre­o­cu­pa­ções éti­cas. KALW. Dis­po­ní­vel em: https://www.kalw.org/post/robotic-seals-comfort-dementia-patients-raise-ethicalconcerns#stream/0. Aces­so em 01 de julho de 2023.

KANT, Imma­nu­el (2012). Groundwork of the Metaphy­sics of Morals (Cam­brid­ge Texts in the His­tory of Phi­lo­sophy) 2nd Edi­ti­on. 130 p. Ori­gi­nally published in 1785.

LEGGETT, T. (2018) Who is to bla­me for ‘self-dri­ving car’ deaths? BBC Busi­ness News. 22 de maio de 2018. Dis­po­ní­vel em https://www.bbc.co.uk/news/business-44159581. Aces­so em 01 de julho de 2023. 

LIN, P.; JENKINS, R.; ABNEY, K. (2017). Éti­ca do Robô 2.0: Dos Car­ros Autô­no­mos à Inte­li­gên­cia Arti­fi­ci­al. Oxford Uni­ver­sity Press.

NATIONAL PUBLIC RADIO. (2018). Dis­po­ní­vel em: https://www.npr.org/sections/healthshots/2018/11/19/668266197/as-insurers-offer-discounts-for-fitness-trackers-wearers-should-stepwith-cautio?t=1557493660570. Aces­so em 01 de julho de 2023. 

NHS’ TOPOL REVIEW. (2019). Pre­pa­ran­do a for­ça de tra­ba­lho da área de saú­de para ofe­re­cer o futu­ro digi­tal. Dis­po­ní­vel em: https://topol.hee.nhs.uk/wp-content/uploads/HEE-Topol-Review-2019.pdf. Aces­so em 01 de julho de 2023. 

NTSB (2018) Pre­li­mi­nary Report Rele­a­sed for Crash Invol­ving Pedes­tri­an, Uber Tech­no­lo­gi­es, Inc., Test Vehi­cle. Nati­o­nal Trans­port Safety Board News Rele­a­se. May 24, 2018. Dis­po­ní­vel em https://www.ntsb.gov/news/press-releases/Pages/NR20180524.aspx. Aces­so em 01 de julho de 2023. 

PEREZ, S.; MASSEY-ALLARD, J.; BUTLER, D.; IVES, J.; BONN, D.; YEE, N.; ROLL, I.(2017). Iden­tifying pro­duc­ti­ve inquiry in vir­tu­al labs using sequen­ce mining. In Arti­fi­ci­al Intel­li­gen­ce in Edu­ca­ti­on; André, E., Baker, R., Hu, X., Rodri­go, M.M.T., du Bou­lay, B., Eds.; Sprin­ger: Cham, Swit­zer­land, 2017; Volu­me 10331, pp. 287–298.

RUSSEL, S.; NORVIG, P. (2010). Arti­fi­ci­al Intel­li­gen­ce – A Modern Appro­a­ch; Pear­son Edu­ca­ti­on: Cran­bury, NJ, USA.

SAE INTERNATIONAL. (2018). SAE Inter­na­ti­o­nal rele­a­ses upda­ted visu­al chart for its ‘levels of dri­ving auto­ma­ti­on’ stan­dard for self-dri­ving vehi­cles. SAE Inter­na­ti­o­nal. Dis­po­ní­vel em: https://www.sae.org/news/press-room/2018/12/sae-international-releases-updated-visual-chart-forits-‘levels-of-driving-automation’-standard-for-self-driving-vehicles. Aces­so em 01 de julho de 2023. 

SAMPLE, I. (2017). Com­pu­ter says no: why making AIs fair, accoun­ta­ble and trans­pa­rent is cru­ci­al. The Guar­di­an. Dis­po­ní­vel em https://www.theguardian.com/science/2017/nov/05/computer-says-no-whymaking-ais-fair-accountable-and-transparent-is-crucial. Aces­so em 01 de julho de 2023. 

SCHÖNBERGER, D. (2019). Inte­li­gên­cia arti­fi­ci­al na saú­de: uma aná­li­se crí­ti­ca das impli­ca­ções legais e éti­cas. Revis­ta Inter­na­ci­o­nal de Direi­to e Tec­no­lo­gia da Infor­ma­ção 27 (2), 171–203. https://doi.org/10.1093/ijlit/eaz004. 

SHEPHERDSON, D.; SOMERVILLE, H. (2019) Uber not cri­mi­nally lia­ble in fatal 2018 Ari­zo­na self-dri­ving crash – pro­se­cu­tors. Reu­ters News. Mar­ch 5, 2019. 

SOLON, O. (2018). Quem está diri­gin­do? Car­ros autô­no­mos podem estar entran­do na fase mais peri­go­sa. The Guar­di­an. Dis­po­ní­vel em  https://www.theguardian.com/technology/2018/jan/24/self-driving-carsdangerous-period-false-security. Aces­so em 01 de julho de 2023. 

STILGOE, J.; WINFIELD, A. (2018). Self-dri­ving car com­pa­ni­es should not be allowed to inves­ti­ga­te their own crashes. The Guar­di­an. Dis­po­ní­vel em https://www.theguardian.com/science/politicalscience/2018/apr/13/self-driving-car-companies-should-not-be-allowed-to-investigate-their-owncrashes. Aces­so em 01 de julho de 2023. 

TOLANI,  M. G.;  TOLANI, H. G.  (2019). Use of arti­fi­ci­al intel­li­gen­ce in  cyber  defen­se.  Inter­na­ti­o­nal Rese­ar­ch Jour­nal of Engi­ne­e­ring and Tech­no­logy (IRJET), 6(7), 3084–3087.

WALLACH, W.; ALLEN, C.,(2009). Moral Machi­nes: Tea­ching Robots Right from Wrong. Oxford Uni­ver­sity Press, New York.

YADRON, D.; TYNAN, D. (2016). Moto­ris­ta da Tes­la mor­re no pri­mei­ro aci­den­te fatal enquan­to usa­va o modo pilo­to auto­má­ti­co. Dis­po­ní­vel em https://www.theguardian.com/technology/2016/jun/30/tesla-autopilot-death-self-driving-car-elonmusk. Aces­so em 01 de julho de 2023.