sebsauvage.net

swyx 🤖🥚 sur Twitter : "@latentspacepod @realGeorgeHotz GPT4 is 8 x 220B params = 1.7 Trillion params https://t.co/DW4jrzFEn2 ok I wasn't sure how widely to spread the rumors on GPT-4 but it seems Soumith is also confirming the same so here's the quick clip! so yes, GPT4 is technically 10x the size of GPT3, and all the small… https://t.co/m2YiaHGVs4" / Twitter

Wednesday 21 June 2023 at 10:44

GPT-2 : 1,5 milliards de paramètres.
GPT-3 : 75 milliards de paramètres.
GPT-4 : 1760 milliards de paramètres.
Des milliards de paramètres que de petits Kenyans réajustent H24 à petits coups de tapes sur les doigts de ChatGPT pour éviter qu'il dise des conneries ou des horreurs (https://sebsauvage.net/links/?caI_MA).
(Permalink)

Source: https://twitter.com/swyx/status/1671272883379908608