Jan. 30th, 2025

Побольше всяких интеллектов...

Since the APIs of Qwen are OpenAI-API compatible, we can directly follow the common practice of using OpenAI APIs.

Below is an example of using Qwen2.5-Max in Python:


from openai import OpenAI
import os

client = OpenAI(
api_key=os.getenv("API_KEY"),
base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
model="qwen-max-2025-01-25",
messages=[
{'role': 'system', 'content': 'You are a helpful assistant.'},
{'role': 'user', 'content': 'Which number is larger, 9.11 or 9.8?'}
]
)

print(completion.choices[0].message)

По поводу "интеллекта", совсем недавно я интересовался у одной интересной израильской компании их продукцией по аппаратным свёрткам. Мне это ни для чего не надо, пока по крайней мере, просто любопытство. На продажном контакте у них какая-то клоунша и разговор сразу зашел в тупик. Но тем не менее, интересная часть заключается в том, что метрика, которую они используют это что-то такое типа TFLOPS на Ватт, они ей гордятся и интересуются какую партию будут заказывать те, кому понравился их продукт. Думаю, что все вот эти последние успехи китайского ИИ - это какая-то поворотная веха, связанная с коммодитизацией технологии. В ней есть определенный запретительный вход состоящий в том, что обсчитывание является очень дорогостоящим и в первую очередь энергоемким. Как их в тех же процессорах последние годы усилия идут не чтобы их разогнать, а чтобы соптимизировать по энергозатратам. Хороший дипсик или плохой - это не так важно, важно, что нет магии, а есть неэксклюзивное понимание модели - модель буквально пошла по рукам. С технологической точки зрения "уникальные чипы" NVDA были удобными на исследовательской части технологии, а теперь когда дело пойдет в серию, аппаратное исполнения метакоманд будет делаться в Китае по дизайну фирм типа такой, с которой я начал заметку и на уникальности оверпрайснутых видеокарт будет - я думаю - поставлена жирная точка.

Profile

qse

March 2025

S M T W T F S
      1
2345678
910 1112131415
16171819202122
23242526272829
3031     

Style Credit

Expand Cut Tags

No cut tags
Page generated May. 29th, 2025 10:45 pm
Powered by Dreamwidth Studios