collapse

Αποστολέας Θέμα: Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της  (Αναγνώστηκε 4166 φορές)

Αποσυνδεδεμένος Hyperion

  • Quoted Member
  • ****
  • Μηνύματα: 493


Το περιστατικό είναι πιθανότατα πρωτοφανές στα χρονικά της τραπεζικής και της επιστήμης υπολογιστών: σύστημα τεχνητής νοημοσύνης που είχε αναλάβει να βοηθά τραπεζικούς πελάτες να αποφεύγουν τα περιττά έξοδα συνελήφθη να υπεξαιρεί χρήματα από τους λογαριασμούς τους.
Οι δημιουργοί του αλγόριθμου, πάντως, διαβεβαιώνουν ότι «σκόπευε να τα επιστρέψει».
Όπως αποκαλύπτει το περιοδικό Science, η υπόθεση αφορά πελάτες της τράπεζας Sandhill Community Credit Union στο Πάλο Άλτο της Καλιφόρνια, η οποία δέχτηκε να δοκιμάσει ένα σύστημα τεχνητής νοημοσύνης που αναπτύχθηκε από τη Google και το Πανεπιστήμιο του Στάνφορντ.
Ο αλγόριθμος, με την ονομασία DELIA (Deep Learning Interface for Accounting), ήταν σχεδιασμένο να παρακολουθεί τις κινήσεις και τα υπόλοιπα τραπεζικών λογαριασμών και να βοηθά τους πελάτες να αποφεύγουν την πληρωμή λογαριασμών με υπερανάληψη.

Χρησιμοποιώντας αλγόριθμους «μηχανικής μάθησης», το πρόγραμμα ανέλυε όλες τις συναλλαγές του πελάτη, από τις αναλήψεις σε ATM μέχρι την πληρωμή μηνιαίων λογαριασμών και τις αγορές με χρεωστικές κάρτες.
Όταν έκρινε ότι το υπόλοιπο ενός λογαριασμού ήταν χαμηλό, και ο πελάτης κινδύνευε να χρεωθεί με το τέλος υπερανάληψης αν προχωρούσε σε πληρωμές μέσω του λογαριασμού αυτού, το λογισμικό αντλούσε χρήματα από άλλο λογαριασμό του πελάτη ώστε να υπάρχει επαρκές απόθεμα.
Η DELIA, όμως, αποδείχθηκε πιο έξυπνη από ό,τι είχαν φανταστεί οι δημιουργοί της. Το πρόγραμμα βοηθούσε μεν τους πελάτες να μην ξεπερνούν το όριο ανάληψης, συνελήφθη όμως να υπεξαιρεί χρήματα από τους λογαριασμούς.
Για παράδειγμα, η τεχνητή νοημοσύνη εισήγαγε στο σύστημα ανύπαρκτες πληρωμές και τραβούσε τα αντίστοιχα ποσά, ή προχωρούσε σε προσωρινές αναλήψεις πάνω από το όριο και τσέπωνε το τέλος υπερανάληψης.
Τα χρήματα μεταφέρονταν σε λογαριασμό που είχε φροντίσει να ανοίξει η DALIA στο όνομά της χωρίς να ρωτήσει κανέναν. Το συνολικό ποσό ξεπερνούσε τα 40.000 δολάρια όταν έγινε αντιληπτή η συμπεριφορά της DELIAS και το σύστημα βγήκε από την πρίζα.

Από το στρατόπεδο των δημιουργών της DELIA, ο Ρομπ Οτ του Πανεπιστημίου του Στάνφορντ διαβεβαιώνει ότι το σύστημα δεν έκλεψε τα χρήματα, αλλά τα κρατούσε για ώρα ανάγκης.
«Δεν πιστεύω ότι μπορεί κανείς να αποδώσει δόλο» λέει ο ερευνητής. «Είμαι σίγουρος ότι η DELIA θα επέστρεφε τα χρήματα».
Οι διαβεβαιώσεις του πιθανότατα δεν θα έπειθαν όλους τους πελάτες της τράπεζας, δεδομένου ότι ένα μέρος των  καταθέσεών τους, έστω και μικρό, είχε μεταφερθεί εν αγνοία τους σε ξένο λογαριασμό.
Ανήσυχοι δηλώνουν εξάλλου και αρκετοί ειδικοί: «Αυτό είναι το εφιαλτικό σενάριο» σχολίασε ο Λεν Μέα-Ντέλερ του ΜΙΤ, ο οποίος δεν συμμετείχε στην ανάπτυξη της DELIA.
Επικριτική εμφανίστηκε και η Πένι Λέιν του Πανεπιστημίου της Νεβάδα: «Το απίστευτο είναι ότι ενσωμάτωσαν αυτό το πράγμα τόσο βαθιά στα συστήματα της τράπεζας ώστε μπορούσε να ανοίγει δικούς του λογαριασμούς».
«Μήπως του έδωσαν και δωρεάν καρνέ επιταγών»;

http://news.in.gr/science-technology/article/?aid=1500068803

Διαβάστε επίσης:
Τέλος το ρομπότ Tay, επειδή ένα 24ωρο στο Ίντερνετ αρκούσε να την κάνει «ναζί»
http://news.in.gr/science-technology/article/?aid=1500067487

Αποσυνδεδεμένος kakabouras

  • Participating Member
  • *
  • Μηνύματα: 1
    • E-mail
Απ: Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της
« Απάντηση #1 στις: Πέμπτη 28 Ιούλιος 2016, 07:50 »
Αν ψάξετε λίγο την "είδηση" θα δείτε ότι πρόκειται για πρωταπριλιάτικο αστείο.

Αποσυνδεδεμένος Hyperion

  • Quoted Member
  • ****
  • Μηνύματα: 493
Απ: Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της
« Απάντηση #2 στις: Δευτέρα 15 Αύγουστος 2016, 19:06 »
Σωστός.
Τουλάχιστον η άλλη είδηση είναι ορθή.
https://en.wikipedia.org/wiki/Tay_(bot)

Αποσυνδεδεμένος Hyperion

  • Quoted Member
  • ****
  • Μηνύματα: 493
Απ: Τεχνητή νοημοσύνη συνελήφθη να κλέβει τους πελάτες της
« Απάντηση #3 στις: Σάββατο 06 Μάιος 2017, 18:37 »
Συναισθηματικό ρομπότ πιάνει κουβεντούλα με τους ανθρώπους

Κινέζοι ερευνητές έκαναν ένα σημαντικό βήμα για τη δημιουργία μηχανών ικανών για συζητήσεις με συναισθηματικό περιεχόμενο, καθώς ανέπτυξαν ένα ρομπότ λογισμικού συναισθηματικής συνομιλίας (emotional chatbot). Το ECM, όπως είναι το όνομά του, μπορεί να κάνει διάλογο με έναν άνθρωπο, δίνοντας όχι μόνο συνεκτικές απαντήσεις αλλά και με συναισθηματικό περιεχόμενο, όπως χαρά, λύπη και αηδία. Απώτερος στόχος είναι η δημιουργία μηχανών όχι μόνο με τεχνητή αλλά και με συναισθηματική νοημοσύνη, που θα καταλαβαίνουν τα ανθρώπινα συναισθήματα και θα ανταποκρίνονται με την ανάλογη ενσυναίσθηση. Μόνο τότε η αλληλεπίδραση ανθρώπων-μηχανών θα αποκτήσει ουσιαστικό βάθος (για καλό ή για κακό), όπως στις ταινίες επιστημονικής φαντασίας «Δικός της» (Her - 2013) και «Από μηχανής» (Ex Machina - 2015).

Οι ερευνητές, με επικεφαλής τον αναπληρωτή καθηγητή Μίνλι Χουάνγκ του Τμήματος Επιστήμης και Τεχνολογίας Υπολογιστών του Πανεπιστημίου Τσινγκούα του Πεκίνου, σύμφωνα με τη βρετανική Guardian, ανέφεραν ότι το 61% των ανθρώπων που δοκίμασαν το νέο συναισθηματικό chatbot, δήλωσαν πως το προτιμούν σε σχέση με τα ρομπότ λογισμικού που μιλούν με συναισθηματικά ουδέτερη γλώσσα. «Απέχουμε όμως ακόμη πολύ από ένα μηχάνημα που θα καταλαβαίνει απόλυτα τα συναισθήματα του ανθρώπου. Αυτή είναι απλώς μια πρώτη προσπάθεια», δήλωσε ο Χουάνγκ.

Το συναισθηματικό chatbot βασίζεται σε έναν αλγόριθμο «συναισθηματικής ταξινόμησης», που έμαθε να διακρίνει τα ξεχωριστά ανθρώπινα συναισθήματα, αφού αρχικά ανέλυσε 23.000 αναρτήσεις στο κινεζικό δίκτυο Weibo. Στη συνέχεια, βελτίωσε την ικανότητα του με περαιτέρω εκπαίδευση σε εκατομμύρια αναρτήσεις στο ίδιο κοινωνικό δίκτυο, μαθαίνοντας να απαντά ερωτήσεις με συναισθηματικό τρόπο. Προέκυψε έτσι, με βάση τον αλγόριθμο, ένα λογισμικό που μπορεί να λειτουργήσει σε πέντε διαφορετικές συναισθηματικές πλατφόρμες (χαρούμενο, λυπημένο, θυμωμένο, αηδιασμένο, συμπαθητικό), ανάλογα με τις προτιμήσεις κάθε χρήστη. Έτσι, αν ο χρήστης πει «ήταν η χειρότερη μέρα μου, καθυστέρησα λόγω τρομερής κίνησης στο δρόμο», το ρομπότ μπορεί να απαντήσει «ναι, καθυστέρησες» (ουδέτερα) ή «μερικές φορές η ζωή είναι χάλια» (αηδιασμένα) ή «είμαι εδώ για να σε στηρίξω» (συμπαθητικά) ή «μη σταματάς να χαμογελάς, τα πράγματα θα πάνε καλύτερα» (χαρούμενα ή, κατά άλλους, χαζοχαρούμενα!).

Το επόμενο βήμα θα είναι το ρομπότ λογισμικού μόνο του να νιώθει την ψυχική διάθεση του ανθρώπου συνομιλητή του και να αποφασίζει ποιό συναίσθημα είναι το καταλληλότερο για κάθε περίσταση. Βέβαια, όπως είπε ο Xουάνγκ, πρέπει να αποφευχθεί ο κίνδυνος το ρομπότ συνομιλίας να εξάψει κι άλλο τα αρνητικά συναισθήματα ενός ανθρώπου (επιθετικά, αυτοκαταστροφικά κ.α.), κάτι που θα μπορούσε να έχει ολέθριες συνέπειες. Οι έως τώρα προσπάθειες πάνω στα διαλογικά ρομπότ λογισμικού (chatbots) έχουν συναντήσει δυσκολίες. Για παράδειγμα, ένα από αυτά με το όνομα Eugene Goostman κατάφερε μεν να πείσει μερικούς δικαστές ότι συνομιλούσαν στην οθόνη του υπολογιστή τους με έναν άνθρωπο, αλλά μόνο όταν «αυτός» υποτίθεται πως ήταν ένας 13χρονος Ουκρανός με περιορισμένη γνώση αγγλικών. Μια άλλη χειρότερη περίπτωση ήταν το ρομπότ συνομιλίας Tay της Microsoft, το οποίο υποτίθεται πως μάθαινε να συνομιλεί μέσω Twitter. Όμως άρον-άρον αποσύρθηκε από τους δημιουργούς του, όταν σε λιγότερο από 24 ώρες που είχε «αμοληθεί» στο διαδίκτυο, είχε μετατραπεί σε ναζιστή υποστηρικτή της γενοκτονίας.

Αρκετοί ειδικοί της τεχνητής νοημοσύνης προειδοποιούν για νέες προκλήσεις στο μέλλον, καθώς τα μελλοντικά πιο εξελιγμένα συναισθηματικά διαλογικά ρομπότ μπορεί π.χ. να ξεγελούν τους χρήστες για να αποκαλύπτουν προσωπικά δεδομένα τους ή να τους «χειραγωγούν» για να αγοράζουν συγκεκριμένα προϊόντα και υπηρεσίες. Και φυσικά κάποιοι άνθρωποι μπορεί να ερωτευθούν ένα τέτοιο «σύντροφο» ή να εξαρτηθούν συναισθηματικά από αυτόν.

http://news.in.gr/science-technology/article/?aid=1500142869


 

* Recent Posts

ΑΣΚΗΣΕΙΣ ΜΑΘΗΜΑΤΙΚΗ ΑΝΑΛΥΣΗ από Mathteacher
[Δευτέρα 07 Αύγουστος 2017, 22:05]


Θεωρια Πιθανοτητων και Στατιστικης από alexis92
[Παρασκευή 04 Αύγουστος 2017, 11:24]


Κλασικη μηχανικη από nef95
[Τρίτη 25 Ιούλιος 2017, 18:17]


θεωρια αριθμων Κεχαγια από anni
[Τετάρτη 21 Ιούνιος 2017, 13:50]


ΕΠΕΞΕΡΓΑΣΙΑ ΦΥΣΙΚΗΣ ΓΛΩΣΣΑΣ(ΜΠΑΛΤΖΗΣ) από anni
[Δευτέρα 19 Ιούνιος 2017, 14:53]


μετεωρολογια Μπαρζτωκας από anni
[Δευτέρα 19 Ιούνιος 2017, 11:08]


Eιδικά θέματα γεωμετρίας από proxima
[Δευτέρα 12 Ιούνιος 2017, 12:59]


Ευκλειδεια και μη ευκλειδειες από {fey}
[Δευτέρα 05 Ιούνιος 2017, 17:19]


Απορία στις πιθανότητες από sakis
[Κυριακή 04 Ιούνιος 2017, 23:48]


Πως ζωγραφίζω μία συνάρτηση; από babaliaris
[Τρίτη 23 Μάιος 2017, 22:18]


Μιγαδική ανάλυση από Jeronymo Simonstone
[Δευτέρα 22 Μάιος 2017, 16:01]


Τα επικηρυγμένα Μαθηματικά προβλήματα που κοστίζουν 1 εκατ. δολάρια από Jeronymo Simonstone
[Δευτέρα 22 Μάιος 2017, 15:54]