1. LoRA là low-ranking-adaptation. Là một kĩ thuật trong finetuning AI model. 2. LoRA là kĩ thuật phổ biến nhất hiện nay trong các phương pháp tối ưu tham số (peft) của finetuning. 3. Điểm mạnh : - Không tinh chỉnh base model. - Rất nhẹ, chi phí tối ưu để huấn luyện. - Linh hoạt, dễ tháo lắp như dạng module. Ví dụ: Llama (13B) với 16 bits - cần 26 GB memory cho model’s weight. Khi áp dụng LoRA, thay vì train với 13B tham số - ta chỉ train với khoảng 3 triệu. Do số lượng tham số cần train ít hơn

⭐ DKA vs HHS — NCLEX Tips & Mnemonics 💃💃💃💃💃💯💯💯💯 🔥 DKA Mnemonics 1. “DKA = D-K-A” D = Diabetes type 1 K = Ketones Kussmaul breathing A = Acidosis If you see ketones, fruity breath, or deep rapid breathing, think DKA. 2. “The 3 K’s of DKA” Ketones Kussmaul respirations Kaley (crazy) Acid → acidosis If ketones or acidosis are present → NEVER HHS. 3. “SIC” – Main DKA Causes Stress Infection Compliance (poor insulin use) NCLEX LOVES infection as a trigger. 4. “High and Dry → Give Fluids F

Thanksgiving turkey. #thanksgiving #lowtideintwilight #funny #euihyun #manwhatiktok