Οι κίνδυνοι της τεχνητής γενικής νοημοσύνης
Οι άνθρωποι που εργάζονται στον τομέα της AI έχουν προειδοποιήσει ότι μόλις οι επιστήμονες πληροφορικής επιτύχουν την τεχνητή γενική νοημοσύνη (AGI), αυτή μπορεί να γίνει πιο ισχυρή από ό,τι μπορούν να αντιμετωπίσουν οι άνθρωποι.
Θα μπορούσαν ακόμη και να θεωρήσουν τον άνθρωπο ως απειλή που πρέπει να εξαλειφθεί, επιστρατεύοντας τις υποδομές του διαδικτύου και των υπολογιστών για την υλοποίηση ενός σχεδίου καταστροφής.
Τέτοιοι φόβοι ευθυγραμμίζονται με τις προβλέψεις των ειδικών ότι μια μέρα η AI θα φτάσει σε ένα σημείο γνωστό ως «singularity» (μοναδικότητα), όταν η τεχνολογία θα έχει γίνει πιο ισχυρή και ευφυής από ό,τι μπορεί να ανταγωνιστεί ο άνθρωπος, αλλάζοντας την πορεία της εξέλιξής μας.
Ο πρώην μηχανικός της Google, Ray Kurzweil προέβλεψε κάποτε ότι αυτή η στιγμή θα εμφανιστεί μέχρι το 2045.
Το Project Q*
Το Reuters ανέφερε ότι το «Q*» είναι μέρος του λόγου για τον οποίο ο Altman απολύθηκε από την OpenAI, λόγω των προηγμένων ικανοτήτων του νέου συστήματος. Πηγές ανέφεραν ότι το Q* είχε ήδη αριστεύσει στα τεστ μαθηματικών, ενώ η τελευταία έκδοση του ChatGPT, το GPT-4, εξακολουθεί να δυσκολεύεται στις εξετάσεις του λυκείου.
Το GPT-4 ξεκίνησε τον Μάρτιο, ενώ το Q* δεν έχει ακόμη επιβεβαιωθεί. Οι πηγές ισχυρίστηκαν επίσης ότι το Q* θα μπορούσε να χρησιμοποιήσει μη γραμμικές μεθόδους, όπως Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs) και έναν αλγόριθμο μάθησης.
Ωστόσο, το προσωπικό του OpenAI φέρεται να πιστεύει ότι το Q* θα μπορούσε να είναι η ανακάλυψη που θα επιτρέψει την ανάπτυξη της AGI. Το OpenAI έχει ορίσει την AGI ως «συστήματα τεχνητής νοημοσύνης που είναι γενικά εξυπνότερα από τους ανθρώπους».
