Quantcast
Sam Altman: Χρήστες που είναι ευγενικοί στο ChatGPT κοστίζουν στην OpenAI «δεκάδες εκατομμύρια δολάρια» - Real.gr

Sam Altman: Χρήστες που είναι ευγενικοί στο ChatGPT κοστίζουν στην OpenAI «δεκάδες εκατομμύρια δολάρια»

Sam Altman: Χρήστες που είναι ευγενικοί στο ChatGPT κοστίζουν στην OpenAI «δεκάδες εκατομμύρια δολάρια»

Photo: rf123

Μπορεί ένα απλό «παρακαλώ» ή «ευχαριστώ» στο ChatGPT να κοστίζει στην OpenAI εκατομμύρια δολάρια τον χρόνο; Αυτό μας λέει ο Sam Altman, CEO της εταιρείας που κυκλοφόρησε το δημοφιλές textbot.

Η συζήτηση ξεκίνησε από μια φαινομενικά αθώα ερώτηση στο X (πρώην Twitter): «Πόσο έχει κοστίσει στην OpenAI το να λένε οι χρήστες “παρακαλώ” και “ευχαριστώ” στις συνομιλίες τους με το ChatGPT»;

Sam Altman post on X regarding how much polite users cost
Photo: X

Η απάντηση του Altman; «Δεκάδες εκατομμύρια δολάρια καλά ξοδεμένα – ποτέ δεν ξέρεις.»

Μήπως κάθε «ευχαριστώ» καίει ρεύμα;

Η λογική είναι η εξής: Κάθε λέξη σε μια συνομιλία  με το ChatGPT μετατρέπεται σε tokens. Όσο περισσότερα τα tokens τόσο και περισσότεροι οι υπολογισμοί που πρέπει να κάνει, άρα και μεγαλύτερη ενεργειακή κατανάλωση. Σε τεράστια κλίμακα, τα ευγενικά μηνύματα που στέλνουν οι χρήστες στο textbot όταν αυτό ολοκληρώνει μια εντολή που του δίνεται, μπορεί να φέρουν και σημαντικά κόστη.

Ωστόσο, η πραγματικότητα είναι μάλλον μετριοπαθής. Το κόστος του GPT-3.5 Turbo υπολογίζεται στα $0.0015 ανά 1.000 input tokens και $0.002 ανά 1.000 output tokens. Ένα «παρακαλώ» και ένα «ευχαριστώ» μαζί αντιστοιχούν σε μόλις 2–4 tokens, δηλαδή ένα κόστος ανά χρήση που κυμαίνεται γύρω στα $0.0000015 έως $0.000002.

Σύμφωνα με τα δεδομένα που έχει δώσει η OpenAΙ , αυτό μεταφράζεται σε περίπου $400 την ημέρα ή $146.000 τον χρόνο.

ΠΕΡΙΣΣΟΤΕΡΑ ΑΠΟ ΤΟ REAL.GR