{"id":1195,"date":"2024-11-30T04:27:04","date_gmt":"2024-11-30T04:27:04","guid":{"rendered":"https:\/\/www.itbatterie.com\/blog\/?p=1195"},"modified":"2024-11-30T04:27:08","modified_gmt":"2024-11-30T04:27:08","slug":"alibaba-lancia-in-anteprima-il-modello-di-ragionamento-aperto-qwen-with-questions","status":"publish","type":"post","link":"https:\/\/www.itbatterie.com\/blog\/archives\/1195","title":{"rendered":"Alibaba lancia in anteprima il modello di ragionamento aperto “Qwen With Questions”"},"content":{"rendered":"\n

Alibaba ha rilasciato gioved\u00ec un nuovo modello di intelligenza artificiale (AI), noto come Qwen with Questions (QwQ), che funge da ultimo concorrente open source del modello di ragionamento OpenAI o1.<\/p>\n\n\n\n

Lanciato in anteprima, si dice che il modello di linguaggio di grandi dimensioni (LLM) QwQ-32B superi GPT-o1-preview in diversi benchmark correlati al ragionamento logico e matematico. Il nuovo modello AI \u00e8 disponibile per il download su Hugging Face, tuttavia non \u00e8 completamente open source.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Cos’\u00e8 Qwen with Questions (QwQ)?<\/h2>\n\n\n\n

Come altri modelli di ragionamento di grandi dimensioni (LRM), QwQ utilizza cicli di elaborazione aggiuntivi durante l’inferenza per rivedere le sue risposte e correggere i suoi errori, rendendolo pi\u00f9 adatto per attivit\u00e0 che richiedono ragionamento logico e pianificazione come matematica e codifica.<\/p>\n\n\n\n

In un post sul blog, Alibaba ha descritto in dettaglio il suo nuovo LLM incentrato sul ragionamento e ha evidenziato le sue capacit\u00e0 e limitazioni. Il QwQ-32B, come suggerisce il nome, \u00e8 basato su 32 miliardi di parametri e ha una finestra di contesto di 32.000 token. Il modello ha completato sia le fasi di pre-addestramento che di post-addestramento. Il modello \u00e8 attualmente in anteprima, il che significa che \u00e8 probabile che seguir\u00e0 una versione pi\u00f9 performante.<\/p>\n\n\n\n

Per quanto riguarda la sua architettura, il gigante tecnologico cinese ha rivelato che il modello AI si basa sulla tecnologia dei trasformatori. Per la codifica posizionale, QwQ utilizza Rotary Position Embeddings (RoPE), insieme alle funzioni Switched Gated Linear Unit (SwiGLU) e Root Mean Square Normalization (RMSNorm), nonch\u00e9 Attention Query-Key-Value Bias (Attention QKV).<\/p>\n\n\n\n

Secondo i test di Alibaba, QwQ batte o1-preview nei benchmark AIME e MATH, che valutano le capacit\u00e0 di risoluzione dei problemi matematici. Supera anche o1-mini su GPQA, un benchmark per il ragionamento scientifico. QwQ \u00e8 inferiore a o1 nei benchmark di codifica LiveCodeBench ma supera comunque altri modelli di frontiera come GPT-4o e Claude 3.5 Sonnet.<\/p>\n\n\n\n

QwQ non \u00e8 accompagnato da un documento di accompagnamento che descriva i dati o il processo utilizzato per addestrare il modello, il che rende difficile riprodurre i risultati del modello. Tuttavia, poich\u00e9 il modello \u00e8 aperto, a differenza di OpenAI o1, il suo “processo di pensiero” non \u00e8 nascosto e pu\u00f2 essere utilizzato per dare un senso al modo in cui il modello ragiona quando risolve i problemi.<\/p>\n\n\n\n

In particolare, Alibaba ha reso disponibile il modello AI tramite un elenco Hugging Face e sia i privati \u200b\u200bche le aziende possono scaricarlo per scopi personali, accademici e commerciali con la licenza Apache 2.0.<\/p>\n","protected":false},"excerpt":{"rendered":"

Alibaba ha rilasciato gioved\u00ec un nuovo modello di intelligenza artificiale (AI), noto come Qwen with Questions (QwQ), che funge da ultimo concorrente open source del modello di ragionamento OpenAI o1. Lanciato in anteprima, si dice che il modello di linguaggio di grandi dimensioni (LLM) QwQ-32B superi GPT-o1-preview in diversi benchmark correlati al ragionamento logico e […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[17],"class_list":["post-1195","post","type-post","status-publish","format-standard","hentry","category-news","tag-ai"],"_links":{"self":[{"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/posts\/1195","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/comments?post=1195"}],"version-history":[{"count":1,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/posts\/1195\/revisions"}],"predecessor-version":[{"id":1197,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/posts\/1195\/revisions\/1197"}],"wp:attachment":[{"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/media?parent=1195"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/categories?post=1195"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itbatterie.com\/blog\/wp-json\/wp\/v2\/tags?post=1195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}