Nvidia Lets You Peer Inside the Black Box of Its Self-Driving AI - MIT Technology Review

In a step toward making AI more accountable, Nvidia has developed a neural network for autonomous driving that highlights what it’s focusing on.


Σχόλια

  • από stassa πριν 207 μέρες       

    >> “What’s revolutionary about this is that we never directly told the network to care about these things,”

    Μμ και καλά. Αφού δεν ξέρεις γιατί προσέχει αυτά που προσέχει, πώς ξέρεις οτι δεν του το είπες; Κι είναι κι "επαναστατικό"; Πες καλύτερα οτι δεν έχεις ιδέα τί διάλο κάνει το δίκτυο με την ντάτα που τού 'δωσες...

    Άσε δε που δεν μας ενδιαφέρει στ' αλήθεια να καταλάβουμε _τί_ προσέχει - μας ενδιαφέρει να ξέρουμε _γιατί_ το προσέχει και πώς αποφασίζει πώς να οδηγήσει με βάση αυτήν την πληροφορία.

    • από Epanechnikov πριν 204 μέρες       

      Έχω την εντύπωση πως τα neural nets δεν δίνουν απάντηση του γιατί. Λειτουργούν σαν το ανθρώπινο ένστικτο. Στην οδήγηση εξάλλου κυρίως system 1 χρησιμοποιούμε.

    • από stassa πριν 196 μέρες       

      >> Λειτουργούν σαν το ανθρώπινο ένστικτο.

      Μπα.

      Δεν λειτουργούν σαν το ανθρώπινο οτιδήποτε. Πρόκειται για αλγόριθμους βελτιστοποίησης συστημάτων συναρτήσεων. Τίποτα περισσότερο, τίποτα λιγότερο και καμμία σχέση με ανθρώπινες λειτουγρίες, ιδιότητες, ικανότητες κλπ.

      Σαφώς θ' ακούσεις να μιλάνε για "intuition". Εννοούν οτι η πολυποκότητα του μοντέλου είναι τέτοια που είναι πολύ δύσκολο (βλέπε, αδύνατο) να κατανοηθεί. Δηλαδή, το μοντέλο ξέρει τί κάνει και γιατί το κάνει- εμείς είμαστε που δεν ξέρουμε.


Log in για σχολιασμό ή γίνε μέλος εδώ.

Ποιά μέλη του buzz ψήφισαν αυτή την καταχώριση