Activity, over time
Daily observations from the public event archive.
Attention
Daily stars & forks
Star accumulation
Cumulative stars
Pull requests
Daily opens & merges
Conversations
Daily issues & comments
Community
Daily accounts & reviews
Releases
Daily releases
Trending history
Daily top 10 · last 90 days · UTC
Mentions
Stars
Forks
Contributors
Latest stargazers
The last 10 distinct accounts we observed this year.
Most active participants
PR, issue, comment & review events in the past year.
Packages
Scan pending.
README badges
Embed a badge in your README or website.
Live mentions · last 30 days
Mentions
70B的大模型真能塞进4GB显存的卡里跑？AirLLM给出的答案是能。 它走的思路叫分层推理：不把整个模型一股脑塞进显存，而是一层一层往里加载，算完一层就丢掉，硬是把巨无霸塞进了小破卡。 更妙的是它100%开源，白蹭警告。 链接：0xSojalSec/airllm t.co
4GB显存跑70B大模型，AirLLM真办了。 分层推理：一层层加载、算完就甩，硬塞进小破卡。 100%开源，白蹭： 0xSojalSec/airllm 我唯一嘀咕的是慢——慢到什么程度，你试过说一声 t.co
4GB显存跑70B大模型，这事还真被AirLLM办成了。 它玩的招叫分层推理：不把整个模型一股脑塞进显存，而是一层一层往里加载，算完一层就甩掉，硬是把巨无霸塞进小破卡。 更骚的是100%开源，白蹭警告。 🔗 0xSojalSec/airllm t.co
4GB 显存就能跑 70B 大模型？这事儿还真让人办成了！ AirLLM 耍了手骚操作——分层推理，不把整个模型一股脑怼进显存，而是一层层往里加载，算完一层就甩掉，硬生生把巨无霸塞进小破卡。 最骚的是：100% 开源，白蹭警告 🔗 0xSojalSec/airllm t.co