dbneu Posted July 9, 2019 Report Posted July 9, 2019 Fooling OCR Systems with Adversarial Text Images --- se pricepe cineva la asa ceva? Am de facut o imagine text si vreau sa "pacalesc" un system AI. OCR = optical character reader Quote
Nytro Posted July 9, 2019 Report Posted July 9, 2019 Eu stiam de asta: https://github.com/IBM/adversarial-robustness-toolbox Quote
dbneu Posted July 9, 2019 Author Report Posted July 9, 2019 Cred ca e bun si ala, am mai vazut si : https://arxiv.org/pdf/1802.05385.pdf . E cineva pe aici care poate sa puna si in practica toata treaba asta? Eu nu ma pricep deloc la practica, trebuie cineva... gen sa ii dau imaginea text pe care o am si sa ii explic ce cuvinte trebuiesc "cryptate" daca pot sa zic asa. Danke Quote
dbneu Posted July 9, 2019 Author Report Posted July 9, 2019 17 minutes ago, Nytro said: Eu stiam de asta: https://github.com/IBM/adversarial-robustness-toolbox Tu te pricepi? Quote
yoyois Posted July 9, 2019 Report Posted July 9, 2019 36 minutes ago, dbneu said: Cred ca e bun si ala, am mai vazut si : https://arxiv.org/pdf/1802.05385.pdf . E cineva pe aici care poate sa puna si in practica toata treaba asta? Eu nu ma pricep deloc la practica, trebuie cineva... gen sa ii dau imaginea text pe care o am si sa ii explic ce cuvinte trebuiesc "cryptate" daca pot sa zic asa. Danke Du-te bai prajitule! Ce vrei tu e state of the art in securitate. Se baga milioane de $ in reserch pe subiectul asta. Daca ai access la sistemul pe care vrei sa il pacalesti, gen e open source sau are un SDK, poate poate gasesti unul sa faca un script pentru 200-500$. Daca vrei sa pacalesti un sistem mai serios, de securitate, sper ca ai buget in 5 cifre. 1 Quote
dbneu Posted July 9, 2019 Author Report Posted July 9, 2019 55 minutes ago, yoyois said: Du-te bai prajitule! Ce vrei tu e state of the art in securitate. Se baga milioane de $ in reserch pe subiectul asta. Daca ai access la sistemul pe care vrei sa il pacalesti, gen e open source sau are un SDK, poate poate gasesti unul sa faca un script pentru 200-500$. Daca vrei sa pacalesti un sistem mai serios, de securitate, sper ca ai buget in 5 cifre. Da de cand vb tu asa cu persoane pe care nu le cunosti? Esti un hater obosit tare in gura pe net, bulangiule! E foarte posibil ce zic eu aici doar ca eu nu stiu programare, nici macar noob nu sunt. Citeste aici : https://medium.com/@ml.at.berkeley/tricking-neural-networks-create-your-own-adversarial-examples-a61eb7620fd8 si aici https://arxiv.org/abs/1802.05385 si aici https://medium.com/@ml.at.berkeley/tricking-neural-networks-create-your-own-adversarial-examples-a61eb7620fd8 parerea mea e ca daca ai cunostinte in coding stii sa pui in practica asta, dar e mai usor sa critici. https://github.com/dangeng/Simple_Adversarial_Examples We demonstrate that state-of-the-art optical character recognition (OCR) based on deep learning is vulnerable to adversarial images. Minor modifications to images of printed text, which do not change the meaning of the text to a human reader, cause the OCR system to "recognize" a different text where certain words chosen by the adversary are replaced by their semantic opposites. This completely changes the meaning of the output produced by the OCR system and by the NLP applications that use OCR for preprocessing their inputs. Quote
yoyois Posted July 9, 2019 Report Posted July 9, 2019 (edited) Din pacate eu chiar am facut asta intr-un curs de securitate. Am atacat, cu un generator genetic, un image calssifier antrenat pe MNIST. (aka one pixel attack) Daca vrei sa faci chestia asta, asa ca un hobbi, impotriva unei retele simple, open source, DA, se poate! Nu e foarte usor, deci nu isi gasesti fraieri sa-ti faca fara niste bani. Daca vrei sa ataci o retea comerciala, care are un rol de securitate: Ia-ti adio! Sunt tehnici prin care un OCR se poate proteja impotriva atacurilor astea triviale, tehnici in care s-au investit milioane de $. Daca iti gasesti un baiat sub 1000$ care sa-ti atace un OCR comercial modern, care are un rol in securitate: Sa-mi dai PM sa-mi faci in ciuda. Edited July 9, 2019 by yoyois 1 Quote
dbneu Posted July 9, 2019 Author Report Posted July 9, 2019 48 minutes ago, yoyois said: Din pacate eu chiar am facut asta intr-un curs de securitate. Am atacat, cu un generator genetic, un image calssifier antrenat pe MNIST. (aka one pixel attack) Daca vrei sa faci chestia asta, asa ca un hobbi, impotriva unei retele simple, open source, DA, se poate! Nu e foarte usor, deci nu isi gasesti fraieri sa-ti faca fara niste bani. Daca vrei sa ataci o retea comerciala, care are un rol de securitate: Ia-ti adio! Sunt tehnici prin care un OCR se poate proteja impotriva atacurilor astea triviale, tehnici in care s-au investit milioane de $. Daca iti gasesti un baiat sub 1000$ care sa-ti atace un OCR comercial modern, care are un rol in securitate: Sa-mi dai PM sa-mi faci in ciuda. Nu stiu ce vrei tu sa zici prin "a ataca" dar mai pe scurt eu am nevoie sa pun o imagine cu un text si am nevoie ca sistemul sa nu-mi citeasca cateva cuvinte din acel text. Prima data am crezut ca tine de photoshop dar defapt e mult mai complicat de atat.... credeam ca trebuie poza editata, blurata etc.... exemplu de poza cu textul: "Marian a condus 200 de km fara sa se opreasca" sistemul trebuie pacalit incat sa nu citeasca "200 de km", sa citeasca altceva, nimic sau cuvant random. Quote
jreister Posted July 9, 2019 Report Posted July 9, 2019 Și yoyois ce îți explică acolo de 2 postări încoace? Quote
dbneu Posted July 10, 2019 Author Report Posted July 10, 2019 https://github.com/roberto1648/adversarial-perturbations-on-images-and-videos Asta nu merge oare? Quote
