Η μηχανική μάθηση, ή machine learning, έχει διευρύνει τα όρια σε διάφορους τομείς, όπως η εξατομικευμένη ιατρική, τα αυτόνομα οχήματα, και οι εξατομικευμένες διαφημίσεις. Ωστόσο, έρευνες έχουν δείξει ότι τα συστήματα αυτά απομνημονεύουν πτυχές των δεδομένων με τα οποία εκπαιδεύτηκαν προκειμένου να μάθουν πρότυπα, γεγονός που εγείρει ανησυχίες για την προστασία της ιδιωτικής ζωής.
Στη στατιστική και τη μηχανική μάθηση, ο στόχος είναι να μάθουμε από δεδομένα του παρελθόντος για να κάνουμε νέες προβλέψεις ή να βγάλουμε συμπεράσματα για μελλοντικά δεδομένα. Για την επίτευξη αυτού του στόχου, ο στατιστικολόγος ή ο ειδικός στη μηχανική μάθηση επιλέγει ένα μοντέλο για να συλλάβει τα ύποπτα μοτίβα στα δεδομένα. Ένα μοντέλο εφαρμόζει μια απλουστευτική δομή στα δεδομένα, η οποία καθιστά δυνατή την εκμάθηση μοτίβων και την πραγματοποίηση προβλέψεων.
Τα σύνθετα μοντέλα μηχανικής μάθησης έχουν κάποια εγγενή πλεονεκτήματα και μειονεκτήματα. Από τη θετική πλευρά, μπορούν να μάθουν πολύ πιο σύνθετα μοτίβα και να εργαστούν με πλουσιότερα σύνολα δεδομένων για εργασίες όπως η αναγνώριση εικόνων και η πρόβλεψη του τρόπου με τον οποίο ένα συγκεκριμένο άτομο θα ανταποκριθεί σε μια θεραπεία. Ωστόσο, ενέχουν επίσης τον κίνδυνο υπερβολικής προσαρμογής στα δεδομένα.
Αυτό σημαίνει ότι κάνουν ακριβείς προβλέψεις σχετικά με τα δεδομένα με τα οποία εκπαιδεύτηκαν, αλλά αρχίζουν να μαθαίνουν πρόσθετες πτυχές των δεδομένων που δεν σχετίζονται άμεσα με την εκάστοτε εργασία. Αυτό οδηγεί σε μοντέλα που δεν είναι γενικευμένα, πράγμα που σημαίνει ότι αποδίδουν ελάχιστα σε νέα δεδομένα που είναι ίδιου τύπου αλλά όχι ακριβώς ίδια με τα δεδομένα εκπαίδευσης.
Καταστροφή βακτηρίων χωρίς αντιβιοτικά, σύμφωνα με ευρήματα μηχανικής μάθησης
Αν και υπάρχουν τεχνικές για την αντιμετώπιση του σφάλματος πρόβλεψης που σχετίζεται με την υπερβολική προσαρμογή, υπάρχουν επίσης ανησυχίες για την προστασία της ιδιωτικής ζωής από τη δυνατότητα να μαθαίνουν τόσα πολλά από τα δεδομένα. Τα μοντέλα μηχανικής μάθησης έχουν φέρει επανάσταση στον τρόπο με τον οποίο επιλύουμε πολύπλοκα προβλήματα και κάνουμε προβλέψεις. Ωστόσο, όταν τα δεδομένα εκπαίδευσης περιέχουν ευαίσθητες πληροφορίες, όπως ιατρικά ή γονιδιωματικά δεδομένα, η ιδιωτικότητα των ατόμων μπορεί να τεθεί σε κίνδυνο.
Έχουν προταθεί διάφορες μέθοδοι για τη μείωση της απομνημόνευσης στα μοντέλα μηχανικής μάθησης, αλλά πολλές από αυτές έχουν αποδειχθεί αναποτελεσματικές. Επί του παρόντος, η διαφορική ιδιωτικότητα θεωρείται η πιο σύγχρονη μέθοδος για την επίσημη προστασία της ιδιωτικότητας στη μηχανική μάθηση. Η διαφορική ιδιωτικότητα διασφαλίζει ότι ένα μοντέλο προσαρμόζεται εάν τα δεδομένα ενός ατόμου μεταβληθούν στο σύνολο δεδομένων εκπαίδευσης με την εισαγωγή πρόσθετης τυχαιότητας στον αλγόριθμο.
