MớiCách chúng tôi bắt người bán gắn sai model, và hoàn tiền cho bạn nếu có.
Lựa chọn thay thế LiteLLM

MartLLM vs LiteLLM

LiteLLM là phần mềm bạn tự lưu trữ và kết nối với các nhà cung cấp mà bạn đã thanh toán; MartLLM là một marketplace được lưu trữ nơi một khóa trả trước duy nhất có thể truy cập các mô hình trò chuyện, hình ảnh, video, âm nhạc và giọng nói, mỗi yêu cầu được gửi đến nhà cung cấp khỏe mạnh rẻ nhất, và bạn không cần quản lý máy chủ hay tài khoản nhà cung cấp nào.

Hiện tại MartLLM định tuyến 501 model, trong đó 255 dành cho hình ảnh, video, nhạc và giọng nói.

MartLLM vs LiteLLM, đặt cạnh nhau

 MartLLMLiteLLM
Cách bắt đầuNạp tối thiểu $5, không cần đăng ký góiMiễn phí, mã nguồn mở (tự lưu trữ)
Dùng thử miễn phíKhông có, credit trả trướcPhiên bản mã nguồn mở miễn phí
Phí cộng thêm ngoài giá modelKhông có phí theo request; phí thẻ 5.5% + $0.50 khi bạn nạp creditKhông có trên phiên bản mã nguồn mở; giá Enterprise không được niêm yết công khai
Dùng được với OpenAI SDKCóCó
Dùng được với Claude Code và Anthropic SDKCóCó
Model chat và văn bảnCóCó
Model hình ảnhCóCó
Model videoCóCó
Model nhạcCóKhông
Cùng một model từ nhiều người bánCóCó
Lần tạo thất bại miễn phíCóKhông công bố
Ứng dụng không cần code (không lập trình)KhôngKhông
Chạy trên máy chủ của riêng bạnKhôngCó

Thông tin về LiteLLM lấy từ chính trang web của họ tính đến 28 tháng 10, 2026 (trang giá của họ). “Không công bố” nghĩa là LiteLLM không công khai thông tin đó. Hai công ty hoạt động độc lập; LiteLLM là nhãn hiệu của chủ sở hữu. Giá MartLLM được cập nhật trực tiếp trên bảng model.

Giá, theo từng model

Rẻ hơn giá riêng của từng nhà cung cấp ở 222 trên 226 model, rẻ hơn tới 99%, theo giá tốt nhất hiện tại của MartLLM (kiểm tra ngày 20 tháng 11, 2026).

ModelMartLLM vào / ra
$0.0072 / $0.0319
$0.1500 / $0.6660
rẻ hơn 95%
$0.0075 / $0.0282
$0.2000 / $0.7500
rẻ hơn 96%
$0.0029 / $0.0100
$1.40 / $4.40
rẻ hơn 99%
$0.0017 / $0.0042
$0.1200 / $0.4750
rẻ hơn 99%
$0.0748 / $0.3743
$0.7500 / $3.75
rẻ hơn 90%
$0.2145 / $0.8580
$0.3300 / $1.32
rẻ hơn 35%
$0.00080 / $0.0092
$0.2000 / $2.30
rẻ hơn 99%
$0.0384 / $0.2021
$3.00 / $15.00
rẻ hơn 98%
$0.2244 / $0.8976
$0.3300 / $1.32
rẻ hơn 31%
$1.74 / $2.90
$3.00 / $5.00
rẻ hơn 42%
$0.0150 / $0.0470
$0.1500 / $0.4700
rẻ hơn 89%
$0.0608 / $0.3042
$2.00 / $10.00
rẻ hơn 96%
$0.1996 / $0.9980
$2.00 / $10.00
rẻ hơn 90%
$0.1353 / $0.4059
$1.43 / $4.28
rẻ hơn 90%
$0.0026 / $0.0038
$0.2600 / $0.4000
rẻ hơn 99%
$0.00015 / $0.00046
$0.1500 / $0.4700
rẻ hơn 99%
$0.1798 / $0.8990
$2.00 / $10.00
rẻ hơn 91%
$0.0030 / $0.0149
$0.1000 / $0.5000
rẻ hơn 97%
$0.2054 / $1.03
$2.00 / $10.00
rẻ hơn 89%
$0.1871 / $0.9356
$0.7500 / $3.75
rẻ hơn 75%
$0.0180 / $0.0900
$0.1000 / $0.5000
rẻ hơn 82%
$0.0634 / $0.1268
$1.30 / $2.60
rẻ hơn 95%
$0.1595 / $0.7974
$2.00 / $10.00
rẻ hơn 92%
$0.1454 / $0.7268
$1.50 / $7.50
rẻ hơn 90%
$1.96 / $9.82
$3.00 / $15.00
rẻ hơn 34%
Hiện tất cả 226 model
ModelMartLLM vào / ra
$0.2697 / $1.62
$2.50 / $15.00
rẻ hơn 89%
$0.0208 / $0.0440
$0.1300 / $0.2750
rẻ hơn 84%
$0.0277 / $0.0832
$1.32 / $3.96
rẻ hơn 97%
$0.0075 / $0.0450
$1.50 / $9.00
rẻ hơn 99%
$0.000018 / $0.000089
$0.0300 / $0.1450
rẻ hơn 99%
$0.6780 / $3.39
$4.00 / $20.00
rẻ hơn 83%
$0.0461 / $0.2307
$1.00 / $5.00
rẻ hơn 95%
$0.2084 / $1.04
$10.00 / $50.00
rẻ hơn 97%
$1.25 / $7.50
$5.00 / $30.00
rẻ hơn 75%
$0.0058 / $0.0202
$1.40 / $4.40
rẻ hơn 99%
$0.0030 / $0.0250
$0.3000 / $2.50
rẻ hơn 99%
$0.1096 / $0.6575
$2.00 / $12.00
rẻ hơn 94%
$0.9000 / $4.50
$5.00 / $25.00
rẻ hơn 82%
$0.0261 / $0.1045
$0.1500 / $0.6000
rẻ hơn 82%
$0.3500 / $1.75
$2.00 / $10.00
rẻ hơn 82%
$0.2747 / $1.10
$0.5000 / $2.00
rẻ hơn 45%
$0.0013 / $0.0056
$0.0300 / $0.1300
rẻ hơn 95%
$0.0200 / $0.1200
$0.2000 / $1.20
rẻ hơn 90%
$0.0013 / $0.0075
$0.2500 / $1.50
rẻ hơn 99%
$0.3600 / $1.80
$2.00 / $10.00
rẻ hơn 82%
$0.0130 / $0.0360
$0.0900 / $0.2500
rẻ hơn 85%
$0.1111 / $0.4999
$0.2000 / $0.9000
rẻ hơn 44%
$0.0828 / $0.2484
$2.00 / $6.00
rẻ hơn 95%
$0.6985 / $1.40
$1.25 / $2.50
rẻ hơn 44%
$0.000069 / $0.00030
$0.0700 / $0.3000
rẻ hơn 99%
$0.0126 / $0.0379
$2.00 / $6.00
rẻ hơn 99%
$0.0102 / $0.0410
$0.1500 / $0.6000
rẻ hơn 93%
$6.38 / $31.92
$8.00 / $40.00
rẻ hơn 20%
$0.00091 / $0.0027
$0.1200 / $0.3600
rẻ hơn 99%
$0.0020 / $0.0020
$0.2100 / $0.2100
rẻ hơn 99%
$0.1106 / $0.3319
$2.50 / $7.50
rẻ hơn 95%
$0.0025 / $0.0150
$0.5000 / $3.00
rẻ hơn 99%
$0.0030 / $0.0140
$0.1300 / $0.2600
rẻ hơn 95%
$0.0490 / $0.2797
$0.0700 / $0.4000
rẻ hơn 30%
$0.0730 / $0.4379
$0.7500 / $4.50
rẻ hơn 90%
$2.85 / $14.24
$8.00 / $40.00
rẻ hơn 64%
$0.0160 / $0.0504
$1.68 / $5.28
rẻ hơn 99%
$0.5180 / $2.59
$5.00 / $25.00
rẻ hơn 89%
$0.0147 / $0.0470
$0.2930 / $0.7100
rẻ hơn 93%
$1.22 / $6.09
$8.00 / $40.00
rẻ hơn 84%
$0.0892 / $0.1784
$0.1000 / $0.2000
rẻ hơn 10%
$0.00091 / $0.0027
$0.1200 / $0.3600
rẻ hơn 99%
$0.3750 / $0.7500
$1.42 / $2.83
rẻ hơn 73%
$0.0698 / $0.3491
$0.1000 / $0.5000
rẻ hơn 30%
$1.40 / $4.19
$2.00 / $6.00
rẻ hơn 30%
$0.5674 / $1.70
$2.00 / $6.00
rẻ hơn 71%
$1.22 / $7.33
$2.00 / $12.00
rẻ hơn 38%
$0.0124 / $0.0248
$1.42 / $2.83
rẻ hơn 99%
$0.2162 / $0.8650
$2.50 / $10.00
rẻ hơn 91%
$0.8056 / $4.03
$5.00 / $25.00
rẻ hơn 83%
$0.00060 / $0.0023
$0.0600 / $0.2300
rẻ hơn 99%
$0.3087 / $1.54
$3.00 / $15.00
rẻ hơn 89%
$0.0875 / $0.4375
$0.6250 / $3.13
rẻ hơn 86%
$0.00033 / $0.0020
$0.0653 / $0.4000
rẻ hơn 99%
$0.0149 / $0.0697
$0.7500 / $3.50
rẻ hơn 98%
$0.0230 / $0.0920
$0.3000 / $1.20
rẻ hơn 92%
$0.0414 / $0.2070
$2.00 / $10.00
rẻ hơn 97%
$0.0030 / $0.0148
$0.5350 / $2.67
rẻ hơn 99%
$0.3608 / $1.80
$1.00 / $5.00
rẻ hơn 63%
$0.1258 / $0.2515
$0.4350 / $0.8700
rẻ hơn 71%
$0.000075 / $0.00030
$0.0725 / $0.2500
rẻ hơn 99%
$1.60 / $7.98
$2.00 / $10.00
rẻ hơn 20%
$0.0136 / $0.0429
$1.35 / $4.29
rẻ hơn 98%
$0.7160 / $2.43
$1.25 / $4.25
rẻ hơn 42%
$0.0407 / $0.1375
$0.3700 / $1.25
rẻ hơn 89%
$0.1049 / $0.6993
$0.1500 / $1.00
rẻ hơn 30%
$0.0324 / $0.2027
$0.2000 / $1.25
rẻ hơn 83%
$6.11 / $36.68
$30.00 / $180.00
rẻ hơn 79%
$0.0550 / $0.0825
$0.1700 / $0.2500
rẻ hơn 67%
$0.00080 / $0.0010
$0.1000 / $0.3000
rẻ hơn 99%
$0.1055 / $0.4887
$0.1900 / $0.8800
rẻ hơn 44%
$0.0027 / $0.0094
$0.2700 / $0.9500
rẻ hơn 99%
$0.00013 / $0.00084
$0.1400 / $0.8600
rẻ hơn 99%
$0.5625 / $1.91
$1.25 / $4.25
rẻ hơn 54%
$0.0375 / $0.0750
$3.75 / $7.50
rẻ hơn 99%
$0.4625 / $1.57
$1.25 / $4.25
rẻ hơn 62%
$0.7980 / $3.99
$1.00 / $5.00
rẻ hơn 20%
$0.0232 / $0.1070
$0.7500 / $3.46
rẻ hơn 96%
$0.00079 / $0.0020
$0.0800 / $0.2000
rẻ hơn 99%
$0.0484 / $0.3869
$0.2500 / $2.00
rẻ hơn 80%
$0.8991 / $4.50
$5.00 / $25.00
rẻ hơn 82%
$0.5125 / $3.08
$0.6250 / $3.75
rẻ hơn 17%
$2.23 / $11.14
$10.00 / $50.00
rẻ hơn 77%
$0.0042 / $0.0170
$0.4300 / $1.75
rẻ hơn 99%
$0.0059 / $0.0248
$0.6000 / $2.50
rẻ hơn 99%
$0.2025 / $1.01
$0.7500 / $3.75
rẻ hơn 73%
$0.00075 / $0.0040
$0.0775 / $0.4250
rẻ hơn 99%
$0.3518 / $2.81
$1.75 / $14.00
rẻ hơn 79%
$0.00049 / $0.0015
$0.0625 / $0.1875
rẻ hơn 99%
$0.0811 / $0.2433
$0.8340 / $2.50
rẻ hơn 90%
$0.0059 / $0.0216
$0.6000 / $2.20
rẻ hơn 99%
$0.6390 / $1.27
$1.42 / $2.83
rẻ hơn 55%
$0.1011 / $0.6554
$0.1820 / $1.18
rẻ hơn 44%
$0.0021 / $0.0188
$0.2100 / $1.90
rẻ hơn 99%
$0.0025 / $0.0094
$0.2700 / $1.00
rẻ hơn 99%
$2.10 / $10.50
$3.00 / $15.00
rẻ hơn 29%
$0.0012 / $0.0079
$0.1200 / $0.8000
rẻ hơn 99%
$0.0039 / $0.0124
$1.00 / $3.20
rẻ hơn 99%
$0.0027 / $0.0110
$0.5002 / $2.06
rẻ hơn 99%
$0.0408 / $0.2449
$2.00 / $12.00
rẻ hơn 97%
$0.0314 / $0.0943
$0.0450 / $0.1350
rẻ hơn 30%
$0.1242 / $0.6208
$4.00 / $20.00
rẻ hơn 96%
$0.0367 / $0.2625
$0.0525 / $0.3750
rẻ hơn 29%
$0.0244 / $0.0981
$0.0350 / $0.1405
rẻ hơn 30%
$0.00057 / $0.0035
$0.1350 / $0.7500
rẻ hơn 99%
$0.0097 / $0.0773
$0.0500 / $0.4000
rẻ hơn 80%
$0.0639 / $0.1278
$0.1400 / $0.2800
rẻ hơn 54%
$0.2125 / $0.7649
$0.2500 / $0.9000
rẻ hơn 15%
$0.0050 / $0.0150
$0.5250 / $1.57
rẻ hơn 99%
$0.0015 / $0.0015
$0.1575 / $0.1575
rẻ hơn 99%
$2.40 / $12.00
$10.00 / $50.00
rẻ hơn 76%
$0.0030 / $0.0099
$0.3250 / $1.25
rẻ hơn 99%
$0.00086 / $0.0095
$0.0950 / $1.10
rẻ hơn 99%
$0.0600 / $0.2000
$1.20 / $4.00
rẻ hơn 95%
$0.0023 / $0.0093
$0.3000 / $1.20
rẻ hơn 99%
$0.5670 / $1.70
$2.27 / $6.80
rẻ hơn 75%
$0.00079 / $0.0028
$0.1200 / $0.4000
rẻ hơn 99%
$0.0225 / $0.0750
$0.1500 / $0.5000
rẻ hơn 85%
$0.3045 / $0.6090
$0.4800 / $1.80
rẻ hơn 63%
$0.9999 / $3.00
$2.27 / $6.80
rẻ hơn 55%
$0.00069 / $0.0028
$0.1100 / $0.4400
rẻ hơn 99%
$0.00040 / $0.00080
$0.0400 / $0.0800
rẻ hơn 99%
$0.5645 / $2.82
$5.00 / $25.00
rẻ hơn 88%
$0.1746 / $0.6983
$0.4000 / $1.20
rẻ hơn 43%
$0.0010 / $0.0010
$0.1050 / $0.1050
rẻ hơn 99%
$0.7175 / $2.39
$1.20 / $4.00
rẻ hơn 40%
$0.0135 / $0.1343
$0.3225 / $3.20
rẻ hơn 95%
$0.0798 / $0.3990
$0.1000 / $0.5000
rẻ hơn 20%
$0.0045 / $0.0447
$0.1000 / $1.00
rẻ hơn 95%
$0.0050 / $0.0150
$0.5000 / $1.50
rẻ hơn 99%
$0.0114 / $0.0473
$0.1400 / $0.5800
rẻ hơn 91%
$0.0838 / $0.3491
$0.1200 / $0.5000
rẻ hơn 30%
$0.2264 / $0.6791
$0.3234 / $0.9702
rẻ hơn 29%
$3.60 / $18.00
$4.00 / $20.00
rẻ hơn 9%
$0.4200 / $3.36
$1.75 / $14.00
rẻ hơn 76%
$1.80 / $9.00
$4.00 / $20.00
rẻ hơn 55%
$0.1300 / $0.5265
$1.00 / $4.05
rẻ hơn 87%
$0.00046 / $0.00058
$0.0450 / $0.0900
rẻ hơn 99%
$0.3980 / $1.61
$0.5700 / $2.30
rẻ hơn 30%
$0.0088 / $0.0175
$0.8750 / $1.75
rẻ hơn 99%
$2.09 / $4.19
$3.00 / $6.00
rẻ hơn 30%
$1.30 / $3.90
$2.70 / $8.05
rẻ hơn 51%
$0.0170 / $0.1062
$0.5750 / $3.60
rẻ hơn 97%
$0.0244 / $0.0857
$0.3750 / $1.32
rẻ hơn 93%
$0.0910 / $0.0910
$0.4500 / $3.50
rẻ hơn 96%
$0.0050 / $0.0330
$0.0500 / $0.3300
rẻ hơn 90%
$0.00074 / $0.0030
$0.0750 / $0.3000
rẻ hơn 99%
$7.20 / $43.20
$30.00 / $180.00
rẻ hơn 76%
$0.2730 / $0.8190
$0.7350 / $2.21
rẻ hơn 62%
$2.79 / $8.38
$4.00 / $12.00
rẻ hơn 30%
$0.1166 / $1.06
$0.2100 / $1.90
rẻ hơn 44%
$0.0020 / $0.0060
$0.2000 / $0.6000
rẻ hơn 99%
$0.2747 / $1.10
$0.5000 / $2.00
rẻ hơn 45%
$0.0928 / $0.2784
$2.00 / $6.00
rẻ hơn 95%
$0.5625 / $1.91
$1.25 / $4.25
rẻ hơn 54%
$0.0040 / $0.0200
$0.4000 / $2.00
rẻ hơn 99%
$0.2800 / $1.40
$0.4000 / $2.00
rẻ hơn 30%
$0.2532 / $0.5063
$0.3500 / $0.7000
rẻ hơn 27%
$0.0645 / $0.1290
$0.1000 / $0.2000
rẻ hơn 35%
$0.2800 / $1.20
$0.3500 / $1.50
rẻ hơn 19%
$0.1850 / $0.6250
$0.3700 / $1.25
rẻ hơn 50%
$0.2095 / $1.05
$0.3000 / $1.50
rẻ hơn 30%
$0.2990 / $1.49
$0.5000 / $2.50
rẻ hơn 40%
$0.0640 / $0.1600
$0.0600 / $0.2000
rẻ hơn 17%
$0.0080 / $0.0160
$0.8000 / $1.60
rẻ hơn 99%
$3.25 / $16.27
$4.50 / $22.50
rẻ hơn 27%
$0.2170 / $0.8680
$0.3000 / $1.20
rẻ hơn 27%
$0.2815 / $0.8441
$0.6255 / $1.88
rẻ hơn 54%
$0.0525 / $0.7350
$0.0500 / $0.7000
$0.4375 / $3.50
$1.75 / $14.00
rẻ hơn 75%
$0.00040 / $0.00040
$0.0400 / $0.0400
rẻ hơn 99%
$0.0015 / $0.0060
$0.1500 / $0.6000
rẻ hơn 99%
$0.2100 / $0.8400
$0.3000 / $1.20
rẻ hơn 29%
$0.0275 / $0.0714
$0.0500 / $0.1300
rẻ hơn 45%
$0.6767 / $1.83
$1.00 / $2.70
rẻ hơn 32%
$0.0010 / $0.0030
$0.1050 / $0.3150
rẻ hơn 99%
$0.0714 / $0.3571
$0.1300 / $0.6500
rẻ hơn 45%
$2.05 / $10.25
$3.00 / $15.00
rẻ hơn 31%
$0.1316 / $0.2698
$0.1820 / $0.3730
rẻ hơn 27%
$5.34 / $26.70
$10.00 / $50.00
rẻ hơn 46%
$0.4189 / $2.09
$0.6000 / $3.00
rẻ hơn 30%
$0.2095 / $1.75
$0.3000 / $2.50
rẻ hơn 30%
$0.1396 / $0.8379
$0.2000 / $1.20
rẻ hơn 30%
$0.2095 / $1.75
$0.3000 / $2.50
rẻ hơn 30%
$3.49 / $20.95
$5.00 / $30.00
rẻ hơn 30%
$3.04 / $6.09
$4.35 / $8.70
rẻ hơn 29%
$0.0015 / $0.0060
$0.1500 / $0.6000
rẻ hơn 99%
$1.60 / $7.98
$2.00 / $10.00
rẻ hơn 20%
$1.75 / $5.24
$2.50 / $7.50
rẻ hơn 30%
$0.0070 / $0.0140
$0.7000 / $1.40
rẻ hơn 99%
$1.60 / $7.98
$2.00 / $10.00
rẻ hơn 20%
$1.22 / $4.02
$1.75 / $5.75
rẻ hơn 30%
$0.7360 / $1.47
$0.8000 / $1.60
rẻ hơn 8%
$0.4400 / $1.66
$1.35 / $4.29
rẻ hơn 61%
$1.40 / $4.20
$2.00 / $6.00
rẻ hơn 29%
$0.0469 / $0.1875
$0.1650 / $0.6600
rẻ hơn 71%
$0.1000 / $0.3000
$0.1200 / $0.3600
rẻ hơn 16%
$0.1900 / $0.8550
$0.2000 / $0.9000
rẻ hơn 5%
$1.05 / $2.10
$1.00 / $2.00
$0.1260 / $0.4988
$0.1200 / $0.4750
$1.47 / $4.62
$1.26 / $4.40

$ cho mỗi 1M token input / output. Phép so sánh tính input và output theo tỉ lệ 1:3. Giá MartLLM là giá tốt nhất trên chợ ngay lúc này; Giá nhà cung cấp là giá niêm yết chính thức của từng model, tức mức bạn trả cho nhà cung cấp khi dùng qua LiteLLM. Cả hai được kiểm tra ngày 20 tháng 11, 2026. Mọi model mà cả hai bên cùng bán đều được liệt kê, kể cả những model ở đây có giá bằng hoặc đắt hơn.

LiteLLM là gì

Một AI gateway mã nguồn mở (máy chủ proxy và Python SDK) mà bạn tự chạy để gọi nhiều nhà cung cấp mô hình thông qua một API kiểu OpenAI với các API key của riêng bạn. Nó bổ sung các khóa ảo, ngân sách, theo dõi chi tiêu, cân bằng tải và dự phòng.

Cách thanh toán

Gateway mã nguồn mở là miễn phí; bạn chạy nó trên máy chủ của riêng mình và thanh toán trực tiếp cho từng nhà cung cấp mô hình. Phiên bản Enterprise bổ sung SSO, nhật ký kiểm tra và hỗ trợ với giá tùy chỉnh thông qua bộ phận bán hàng.

MartLLM là gì

Một chợ API cho model AI. Mỗi request được gửi tới người bán rẻ nhất đang hoạt động tốt cho model đó, sau một key tương thích OpenAI và Anthropic.

Cách thanh toán

Dùng bao nhiêu trả bấy nhiêu theo giá hiển thị cho từng model, không cộng thêm gì cho mỗi request. Phí thẻ 5.5% + $0.50 chỉ được tính khi bạn nạp credit. Lần tạo thất bại không tốn gì.

Chọn MartLLM nếu

Nhà phát triển muốn giá trực tiếp thấp nhất cho model chat, hình ảnh, video và nhạc dưới một key, dùng OpenAI SDK hoặc Anthropic SDK họ đang có.

Những gì MartLLM có mà LiteLLM không có

  • Model nhạc

Chọn LiteLLM nếu

Các nhóm kỹ thuật muốn chạy gateway của riêng họ trong đám mây của riêng họ (ngay cả khi bị cô lập mạng), giữ các hợp đồng và API key nhà cung cấp hiện có của họ, và tự kiểm soát các API key, ngân sách và định tuyến.

Những gì LiteLLM làm được mà MartLLM không có

  • Tự lưu trữ, bao gồm các thiết lập cô lập mạng
  • Sử dụng các API key và hợp đồng nhà cung cấp của riêng bạn
  • Các khóa ảo, ngân sách nhóm và giới hạn tốc độ bạn kiểm soát
  • SSO cấp doanh nghiệp, nhật ký kiểm tra và SLA tùy chỉnh

Chuyển đổi chỉ với một dòng

Trỏ SDK bạn đang dùng tới MartLLM. Cùng một key dùng cho chat, hình ảnh, video, nhạc và giọng nói.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://api.martllm.com/v1",   # the only line that changes
    api_key="ull_your_key_here",
)

resp = client.chat.completions.create(
    model="deepseek/deepseek-v4-flash",
    messages=[{"role": "user", "content": "Hello!"}],
)

# the same key makes images (and video, music, speech)
img = client.images.generate(
    model="venice/nano-banana-pro",
    prompt="a red apple on a white table",
)

Câu hỏi thường gặp

MartLLM có phải là một giải pháp thay thế cho LiteLLM không?

Một phần. Cả hai đều cung cấp cho bạn một API tương thích với OpenAI và Anthropic trên nhiều mô hình. LiteLLM là một gateway bạn tự lưu trữ và kết nối với các tài khoản nhà cung cấp của riêng bạn; MartLLM là một dịch vụ được lưu trữ mà bạn trả tiền theo mức sử dụng, vì vậy bạn không cần chạy máy chủ hoặc giữ các API key của nhà cung cấp.

MartLLM khác LiteLLM như thế nào?

Với LiteLLM, bạn tự chạy proxy và thanh toán trực tiếp cho từng nhà cung cấp. Với MartLLM, bạn nạp tiền trả trước (tối thiểu $5, phí thẻ 5.5% + $0.50 chỉ khi bạn nạp tiền), thanh toán mức giá hiển thị cho mỗi mô hình mà không mất phí mỗi yêu cầu, và mỗi yêu cầu được gửi đến nhà cung cấp khỏe mạnh rẻ nhất. Các lần tạo thất bại không mất phí, và bạn có thể giới hạn giá mỗi yêu cầu. MartLLM không có phiên bản tự lưu trữ.

Tôi có thể sử dụng LiteLLM và MartLLM cùng nhau không?

Vì MartLLM cung cấp các endpoint tương thích với OpenAI, nó có thể được thêm vào như một endpoint tương thích với OpenAI đằng sau một gateway như LiteLLM. Kiểm tra tài liệu của LiteLLM để biết cách thêm một nhà cung cấp tương thích với OpenAI tùy chỉnh.

Các so sánh khác