Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare

Sfetcu, Nicolae Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare. IT & C, 2023, vol. 2, n. 1, pp. 41-47. [Journal article (Paginated)]

Preview

Text IT&C-2-1-Securitatea cibernetica-Riscuri_si_provocari_in_inteligenta_artificiala-Nicolae_Sfetcu.pdf - Published version Available under License Creative Commons Attribution. Download (292kB) | Preview

English abstract

Artificial intelligence has created unprecedented opportunities, but also new risks. The exponential increase in the capabilities of artificial intelligence models enables previously unattainable levels of value and generalization. However, the opacity of these models has also increased, and their black-box nature makes it difficult, even for experts, to explain the rationale behind their conclusions. This may represent a technological and social critical point, as the risk is real, as evidenced by recent episodes, of training systems being compromised by discrimination biases that have learned from training data. It is therefore possible that learning from digital traces of past decisions can lead to existing invisible biases being incorporated into the resulting patterns, perpetuating them.

Romanian abstract

Inteligența artificială a creat oportunități fără precedent, dar și noi riscuri. Creșterea exponențială a capabilităților modelelor de inteligența artificială permite atingerea unor niveluri de valoare și generalizare neatinse până acum. Cu toate acestea, opacitatea acestor modele a crescut, de asemenea, iar natura lor de cutie neagră face dificilă, chiar și pentru experți, explicarea justificării concluziilor lor. Acest lucru poate reprezenta un punct critic din punct de vedere tehnologic și social, deoarece riscul este real, după cum demonstrează episoadele recente, ale sistemelor de antrenament care sunt compromise de părtiniri și prejudecăți de discriminare, care au învățat din datele de instruire. Prin urmare, este posibil ca învățarea din urmele digitale ale deciziilor trecute să poată duce la încorporarea prejudecăților invizibile existente în modelele rezultate, perpetuându-le.

Item type:	Journal article (Paginated)
Keywords:	riscuri, provocări, inteligența artificială, cutii negre, actorii de amenințare, modele
Subjects:	L. Information technology and library technology > LP. Intelligent agents.
Depositing user:	Nicolae Sfetcu
Date deposited:	05 Feb 2024 08:09
Last modified:	05 Feb 2024 08:09
URI:	http://hdl.handle.net/10760/45530

References

F. Pasquale, The black box society, Harvard University Press 2015

Tay (bot) https://en.wikipedia.org/wiki/Tay_(bot) [19-4-2020].

https://www.idgconnect.com/news/1506124/deepfakes-ai-deceives, septembrie 2020

https://thenewstack.io/camouflaged-graffiti-road-signs-can-fool-machine-learning-models/, septembrie 2017

https://www.media.mit.edu/publications/adversarial-attacks-on-medical-machine-learning/, martie 2019

Machine Bias https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing [19-4-2020].

R. Carter – H.V. Auken., Small firm bankruptcy, Journal of Small Business Management 2006, 44: pp. 493-512

S. Lowry – G. Macpherson, A blot on the profession, British medical journal (Clinical research ed.) 1988, pp. 657

M.T. Ribeiro et al., “Why should I trust you?” Explaining the predictions of any classifier, Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining 2016, pp. 1135-1144

A. Caliskan Islam et al., Semantics derived automatically from language corpora necessarily contain human biases, arXiv preprint arXiv:1608.07187 2016

Amazon Doesn’t Consider the Race of Its Customers. Should It? https://www.bloomberg.com/graphics/2016-amazon-same-day/ [19-4-2020].

Sailio, M.; Latvala, O.-M.; Szanto, A. Cyber Threat Actors for the Factory of the Future. Appl. Sci. 2020, 10, 4334 https://www.mdpi.com/2076-3417/10/12/4334/htm

Downloads

Actions (login required)

View Item