Jump to content
Sign in to follow this  
dbneu

Fooling OCR Systems with Adversarial Text Images

Recommended Posts

  • Fooling OCR Systems with Adversarial Text Images --- se pricepe cineva la asa ceva? Am de facut o imagine text si vreau sa "pacalesc" un system AI.
  • OCR = optical character reader

Share this post


Link to post
Share on other sites

Cred ca e bun si ala, am mai vazut si : https://arxiv.org/pdf/1802.05385.pdf .  

E cineva pe aici care poate sa puna si in practica toata treaba asta?

Eu nu ma pricep deloc la practica, trebuie cineva... gen sa ii dau imaginea text pe care o am si sa ii explic ce cuvinte trebuiesc "cryptate" daca pot sa zic asa.

 

Danke

Share this post


Link to post
Share on other sites
36 minutes ago, dbneu said:

Cred ca e bun si ala, am mai vazut si : https://arxiv.org/pdf/1802.05385.pdf .  

E cineva pe aici care poate sa puna si in practica toata treaba asta?

Eu nu ma pricep deloc la practica, trebuie cineva... gen sa ii dau imaginea text pe care o am si sa ii explic ce cuvinte trebuiesc "cryptate" daca pot sa zic asa.

 

Danke

Du-te bai prajitule! Ce vrei tu e state of the art in securitate. Se baga milioane de $ in reserch pe subiectul asta.

Daca ai access la sistemul pe care vrei sa il pacalesti, gen e open source sau are un SDK, poate poate gasesti unul sa faca un script pentru 200-500$.

 

Daca vrei sa pacalesti un sistem mai serios, de securitate, sper ca ai buget in 5 cifre.

  • Haha 1

Share this post


Link to post
Share on other sites
55 minutes ago, yoyois said:

Du-te bai prajitule! Ce vrei tu e state of the art in securitate. Se baga milioane de $ in reserch pe subiectul asta.

Daca ai access la sistemul pe care vrei sa il pacalesti, gen e open source sau are un SDK, poate poate gasesti unul sa faca un script pentru 200-500$.

 

Daca vrei sa pacalesti un sistem mai serios, de securitate, sper ca ai buget in 5 cifre.

Da de cand vb tu asa cu persoane pe care nu le cunosti? Esti un hater obosit tare in gura pe net, bulangiule!

 

E foarte posibil ce zic eu aici doar ca eu nu stiu programare, nici macar noob nu sunt. Citeste aici :

https://medium.com/@ml.at.berkeley/tricking-neural-networks-create-your-own-adversarial-examples-a61eb7620fd8

si aici

https://arxiv.org/abs/1802.05385

si aici

https://medium.com/@ml.at.berkeley/tricking-neural-networks-create-your-own-adversarial-examples-a61eb7620fd8

parerea mea e ca daca ai cunostinte in coding stii sa pui in practica asta, dar e mai usor sa critici.

https://github.com/dangeng/Simple_Adversarial_Examples

 We demonstrate that state-of-the-art optical character recognition (OCR) based on deep learning is vulnerable to adversarial images. Minor modifications to images of printed text, which do not change the meaning of the text to a human reader, cause the OCR system to "recognize" a different text where certain words chosen by the adversary are replaced by their semantic opposites. This completely changes the meaning of the output produced by the OCR system and by the NLP applications that use OCR for preprocessing their inputs.

 

 

 

Share this post


Link to post
Share on other sites

Din pacate eu chiar am facut asta intr-un curs de securitate. Am atacat, cu un generator genetic, un image calssifier antrenat pe MNIST. (aka one pixel attack)

 

Daca vrei sa faci chestia asta, asa ca un hobbi, impotriva unei retele simple, open source, DA, se poate! Nu e foarte usor, deci nu isi gasesti fraieri sa-ti faca fara niste bani.

Daca vrei sa ataci o retea comerciala, care are un rol de securitate: Ia-ti adio!

 

Sunt tehnici prin care un OCR se poate proteja impotriva atacurilor astea triviale, tehnici in care s-au investit milioane de $.

Daca iti gasesti un baiat sub 1000$ care sa-ti atace un OCR comercial modern, care are un rol in securitate: Sa-mi dai PM sa-mi faci in ciuda. 

Edited by yoyois
  • Upvote 1

Share this post


Link to post
Share on other sites
48 minutes ago, yoyois said:

Din pacate eu chiar am facut asta intr-un curs de securitate. Am atacat, cu un generator genetic, un image calssifier antrenat pe MNIST. (aka one pixel attack)

 

Daca vrei sa faci chestia asta, asa ca un hobbi, impotriva unei retele simple, open source, DA, se poate! Nu e foarte usor, deci nu isi gasesti fraieri sa-ti faca fara niste bani.

Daca vrei sa ataci o retea comerciala, care are un rol de securitate: Ia-ti adio!

 

Sunt tehnici prin care un OCR se poate proteja impotriva atacurilor astea triviale, tehnici in care s-au investit milioane de $.

Daca iti gasesti un baiat sub 1000$ care sa-ti atace un OCR comercial modern, care are un rol in securitate: Sa-mi dai PM sa-mi faci in ciuda. 

Nu stiu ce vrei tu sa zici prin "a ataca" dar mai pe scurt eu am nevoie sa pun o imagine cu un text si am nevoie ca sistemul sa nu-mi citeasca cateva cuvinte din acel text.

Prima data am crezut ca tine de photoshop dar defapt e mult mai complicat de atat.... credeam ca trebuie poza editata, blurata etc....

 

exemplu de poza cu textul: "Marian a condus 200 de km fara sa se opreasca" 

sistemul trebuie pacalit incat sa nu citeasca "200 de km", sa citeasca altceva, nimic sau cuvant random.

Share this post


Link to post
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Sign in to follow this  

×
×
  • Create New...