Hunyuan Hyra 2.0: otomatik araştırma, protein tasarımı, test sonuçları ve API erişimi

Hunyuan Hyra 2.0 nedir?

Hyra 2.0, sıradan bir sohbet modeli değil, Tencent Hunyuan’ın otomatik araştırma ajanıdır

Sohbet modeli soruları yanıtlar. Araştırma ajanı ise doğrulanabilir bir problemi sonuç alınana kadar ilerletmeye çalışır. Tencent, Hyra’yı Hunyuan Research Agent olarak adlandırıyor. Yayımlanan çalışmalar; küçük model eğitimi, GPU işlemleri, matematik problemleri, kuantum devreleri, protein modelleme ve tahmin algoritmalarını kapsıyor.

Örneğin sıradan bir sohbet aracı, eğitimi nasıl hızlandırabileceğinizi anlatabilir. Araştırma ajanından beklenen ise eğitim betiğini değiştirmesi, deney yapması, yeni ölçümler elde etmesi ve incelenebilir kod ile günlükler bırakmasıdır. Bizce Hyra’yı değerlendirirken sohbetinin ne kadar doğal olduğundan çok, bulduğu çözümlerin tekrarlanabilir olup olmadığına, mevcut referans sonuçları geçip geçmediğine ve harcanan hesaplama kaynağına değip değmediğine bakmak gerekir.

Tencent’in açık Hyra-results deposu çoğunlukla son çözümleri ve bazı tekrar üretim betiklerini içeriyor. Ajanın araştırma planlaması, arama stratejisi veya temel modelleri tamamen açıklanmış değil. Hyra sonuç deposu

Deneylerden gelen geri bildirim: kodu, puanlamayı ve doğrulamayı bir araya getirmek

Hyra’nın açık sonuçlarında ortak bir özellik var: problemler genellikle ölçülebilir bir hedef içeriyor. Eğitim sonrası doğrulama kaybının düşük olması, aynı doğrulukla daha kısa sürede eğitim yapılması veya kuantum devresine daha az kapı eklenmesi daha iyi sayılıyor. Böylece iyi bir fikir, yalnızca makul görünen bir açıklama olarak kalmayıp somut koda, çalışma kaydına veya ispat dosyasına dönüşebiliyor.

Bu yöntemi, sonucu kontrol edilebilen dört adım olarak düşünmenizi öneriyoruz: hedef metriği belirlemek, aday çözümler üretmek, bunları dış bir ortamda değerlendirmek ve doğrulanan sonuçları kaydetmek. Bu, açık çıktılardan çıkardığımız bir çalışma biçimidir. Tencent’in Hyra 2.0’ın tüm iç mimarisini açıkladığı anlamına gelmez.

Gündelik kullanıcılar için anlaşılır bir örnek, “Zaten çalışan şu programı hızlandır” isteğidir. Bunun için test verisi, çalışma ortamı ve açık kabul koşulları gerekir. Yalnızca “Algoritmayı daha iyi yap” denirse, en güçlü model bile başarının ne olduğunu anlamakta zorlanır.

Hyra 2.0 protein modelleri üretti, ancak bu modeller ajanın kendisi değil

Bu inceleme sırasında Tencent’in sonuç deposunda iki proje öne çıkıyor. HyInv, yaklaşık 1,96 milyon parametreli bir ters protein katlanması modeli; protein omurgasından amino asit dizileri üretiyor. HyPLM-Flash ise protein dizilerini temsil etmek ve ilgili tahmin görevleri için kullanılan, yaklaşık 650 milyon parametreli bir protein dil modeli. Her iki README dosyası da modellerin Hyra 2.0 tarafından eğitildiğini belirtiyor.

Şu ayrımı vurgulamak isteriz: HyInv ve HyPLM-Flash, kodları ve ağırlıkları indirilebilen, yönergelere göre çalıştırılabilen bağımsız modellerdir. hyra-2.0 adlı genel bir sohbet modeli değildirler. Biri yapıdan dizi tasarlamayı, diğeri dizileri kodlayıp sonraki analizlere hazırlamayı amaçlar. Araştırmacılar açısından bu, soyut bir “Yapay zekâ araştırma yapabilir” iddiasından daha somuttur; çünkü tekrar üretmeye başlanabilecek belirli bir görev vardır.

Proje bilgileri: HyInv README · HyPLM-Flash README

Hunyuan Hyra 2.0’ın temel yetenekleri ve güçlü olduğu alanlar

Otomatik yapay zekâ araştırması: yalnızca öneri vermek yerine küçük modellerin eğitim ayarlarını geliştirmek

Bizce Hyra’nın başlıca değerlerinden biri, daha iyi eğitim düzenlerini otomatik aramasıdır. nanochat_autoresearch projesinde incelenebilir bir train.py, çalıştırma betikleri ve tam eğitim günlükleri yayımlanmış. Açıklanan yapılandırma, tek NVIDIA B200 üzerinde yaklaşık 300 saniyelik sabit eğitim bütçesiyle 0,901543 doğrulama BPB değerine ulaşıyor. BPB, metin tahminindeki kaybı ölçen bir metriktir; bu görevde düşük olması daha iyidir.

Geliştiriciler için bu, belirsiz bir “parametre ayarlama deneyimi” yazısından daha fazlası demek. Sonuçlar; dikkat pencereleri, optimizasyon ayarları, ek n-gram özellikleri ve eğitim takviminde somut değişiklikler içeriyor. Başka birinin eğitim ayarlarını çok farklı veri ölçeklerine doğrudan taşımak yerine, önce tekrarlanabilir değişiklikleri anlamanızı ve kendi modelinize uygunluğunu değerlendirmenizi öneriyoruz. nanochat deneyi

GPU işlemlerini optimize etmek: hız artışını çalıştırılabilir kodla göstermek

GPU optimizasyonunda sık görülen bir yanılgı vardır: daha gelişmiş görünen kod gerçekte daha yavaş olabilir, hatta bazı girdilerde yanlış hesap yapabilir. Hyra, SOL-ExecBench içinde dikkat, MoE dağıtımı, matris çarpımı ve çıkarım işlemlerini kapsayan gerçek gönderimlerden örnekler sunuyor. Açık dizinde doğruluk kontrolünden geçmiş 10 örnek bulunuyor; her biri gönderim numarası, gecikme ve puan içeriyor.

Doğruluk durumunun korunmasını özellikle yararlı buluyoruz. Örneğin bir Flash/GQA attention örneğinde gecikme 0,177612 milisaniye olarak kaydedilmiş. Ancak bu sayı yalnızca ilgili görev ve donanım testine aittir; her modelin dikkat hesabının aynı hızda çalışacağı anlamına gelmez. Çıkarım hizmeti ekipleri, önce girdi boyutlarını, sayısal hassasiyeti, donanımı ve derleyici sürümünü sabitlemeli; sonra gecikme ile çıktı tutarlılığını karşılaştırmalıdır.

GPU işlem sonuçları

Matematiksel keşif: aday yanıttan doğrulanabilir ispata geçmek

Matematik, araştırma ajanlarının dikkat çeken başka bir alanı. Hyra deposunda geometri, kombinatorik ve operatör eşitsizlikleriyle ilgili sonuçlar var. Örneğin üç boyutlu sabit genişlikli dışbükey cisimlerin hacim alt sınırı yaklaşık 0,380799 değerinden 0,411040 değerine yükseltilmiş. 2 Kasım 2026’da eklenen notlar ayrıca Petty’nin eşit uzaklıklı noktalar varsayımına ilişkin beş boyutlu bir sonucu ve Yau’nun çember etkileri varsayımının basit bağlantılı olmayan durumuna bir karşı örneği bildiriyor.

Bu sonuçları “Yapay zekâ bütün matematik varsayımlarını çözdü” diye yorumlamamak gerekir. İspatın kapsamına, biçimsel kontrolün tam olarak hangi kısmı doğruladığına ve matematikçilerin değerlendirmesinin hâlâ gerekli olup olmadığına bakıyoruz. Ciddi araştırmalarda, bir sonucu kaynak göstermeden önce teoremin asıl ifadesini, tüm varsayımları, ispat dosyalarını ve bağımsız kontrol kayıtlarını saklamanızı öneriyoruz.

Matematik sonuçları dizini

Protein tasarımı: HyInv, yapısal girdilerden aday amino asit dizileri üretir

HyInv çok belirli bir göreve odaklanıyor: araştırmacının elinde bir protein omurgası var ve bu yapıya uyabilecek diziler tasarlamak istiyor. Model, komut satırı ve Python arayüzleri sunuyor. PDB yapı dosyalarını okumayı, zincir seçmeyi, belirli konumları sabitlemeyi ve rastgelelik tohumu kullanarak birden çok aday üretmeyi destekliyor. Açık ağırlıklar yaklaşık 7,8 MB; referans uygulama CPU veya GPU üzerinde çalışabiliyor.

Biyoteknoloji ekipleri için yararı, tekrarlanan aday dizi üretimini programla yapılabilir hâle getirmesi. Ancak dizi üretmek, etkili bir ilaç keşfetmekle aynı şey değildir. Adayların yapısı, kararlılığı ve deneysel uygunluğu ayrıca doğrulanmalıdır. Önce az sayıda açık yapıyla biçim ve çıktıları kontrol etmeyi, ardından ekibinizin yapısal puanlama süreciyle eleme yapmayı ve en son deney aşamasına geçmeyi öneriyoruz.

HyInv projesi ve çalıştırma yönergeleri

Protein dizisi analizi: HyPLM-Flash toplu kodlama ve sonraki tahmin görevlerine uygundur

HyPLM-Flash’ın görevi HyInv’den farklı. Protein dizilerini alıp tek tek amino asit kalıntıları veya bütün dizi için vektör temsilleri üretiyor; mutasyon puanlaması için logit değerleri de sunuyor. Tencent’in uygulamasında INT8 çıkarım motoru var ve tek H20 üzerinde saniyede yaklaşık 130 bin kalıntı işleme hızı bildiriliyor. Bu, belirtilen resmî ortamın sonucu; her ekran kartı için hız garantisi değil.

Onu bir araştırma sisteminin dizi özelliklerini çıkaran bileşeni olarak düşünmek daha yararlı. Örneğin proteinleri topluca kodlayıp vektörleri kendi sınıflandırma, kümeleme veya özellik tahmini programınıza aktarabilirsiniz. Genel geliştiriciler için girdinin amino asit dizisi, çıktının vektör olduğunu anlamak, 650 milyon parametre sayısına takılmaktan daha faydalıdır. Araştırmacılara ise INT8 ile BF16 arasında seçim yaparken doğruluk, toplu işlem kapasitesi ve soğuk başlatma süresini birlikte değerlendirmelerini öneriyoruz.

HyPLM-Flash projesi

Hunyuan Hyra 2.0 karşılaştırmalı testleri ve performansı

Bu bölümde Tencent’in açıkladığı görev bazlı deney verilerini kullanıyoruz. Bu sayıların, Hyra 2.0 sohbet modeli için ortak ölçütlerle hazırlanmış bir sıralama olmadığını belirtmek gerekir. Bazıları Hyra araştırma sisteminin bulguları, bazıları Hyra 2.0’ın eğittiği bağımsız modellerin testleridir. Sonuçların işinize aktarılıp aktarılamayacağı yine test ortamına ve referans değere bağlıdır.

Dil modeli eğitim kalitesi: nanochat doğrulama BPB değeri 0,9109’dan 0,9015’e düşüyor

Tencent deposu sonucunu Recursive’in yayımladığı benzer bir kayıtla karşılaştırıyor: önceki değer 0,9109 BPB, Hyra’nın ulaştığı değer yaklaşık 0,9015 BPB; mutlak fark yaklaşık 0,0094. Hyra’nın tam kaydı 0,901543; 1× B200 üzerinde yaklaşık 300,1 saniye eğitim ve hazırlık ile değerlendirme dahil toplam 348,4 saniye. Buradaki iyileşme, doğrulama kaybının azalmasıdır; genel soru yanıtlama doğruluğuna doğrudan çevrilemez.

Önerimiz: Küçük model eğitimini optimize eden ekipler, bu projeyi yeniden çalıştırarak GPU belleğini, veri hazırlığını ve doğrulama yöntemini kontrol edebilir. Ticari eğitimde ise kendi veri kümenizin ölçümleri ve toplam eğitim maliyeti önemini korur. Beş dakikalık bir testteki kazancı her model boyutuna genellemeyin.

Hyra nanochat kaydı · Recursive referans sonucu

Eğitim hızı: nanoGPT Speedrun yaklaşık 77,5 saniyeden 76,435 saniyeye iniyor

nanoGPT Speedrun deneyinde Hyra’nın açık betiği büyük matris işlemlerinde FP8 kullanıyor ve eğitim planını değiştiriyor. Depoda üç çalışma kaydı var: 76,431, 76,467 ve 76,408 saniye. Ortalama 76,435 saniye, ortalama doğrulama kaybı ise yaklaşık 3,28007. Belirtilen yaklaşık 77,5 saniyelik referansa göre süre yaklaşık 1,1 saniye, yani %1,4 azalıyor.

Bu sonuç sıkı koşullara bağlı: 8× H100, uygun CUDA, PyTorch ve Triton sürümleri ile aynı veri kümesi. Ortalama kayıp yuvarlandığında 3,280 görünüyor. Ekranda 3,280 yazması, her deneyin kesin olarak 3,280’in altında kaldığı anlamına gelmez.

Önerimiz: Bu FP8 optimizasyonunu ancak eğitim ortamınız benzerse bir yükseltme adayı olarak değerlendirin. Biz en az üç çalışmayı tekrarlayıp ortalamayı, dalgalanmayı ve son kaybı karşılaştırırdık. Kendi sisteminiz farklı işlem uygulamaları kullanıyorsa önce küçük bir A/B testi yapın.

Hyra’nın üç nanoGPT deneyi

GPU işlem puanı: SOL-ExecBench 0,754’ten 0,771’e yükseliyor

Açık SOL-ExecBench karşılaştırmasında Recursive’in toplam SOL referans puanı 0,754, Hyra’nın bildirdiği değer 0,771; artış 0,017. SOL, uygulamanın bu testte tanımlanan performans üst sınırına ne kadar yaklaştığını ölçer. Genel kod doğruluğunun %77,1 olduğu anlamına gelmez. Tencent ayrıca doğruluk kontrolü içeren 10 örnek yayımlamış olsa da bunlar tam test veri kümesinin yerine geçmez.

Önerimiz: Çıkarım ağ geçitleri veya GPU hizmetleri geliştiren ekipler, kendi iş yüklerinde gerçekten darboğaz oluşturan işlemleri test etmelidir. P50/P95 gecikmesini, işlem hızını, GPU belleğini ve sayısal hatayı kaydedin. Tek bir küçük testte en yüksek puanı almak, hizmetin uçtan uca maliyetini azaltmayabilir.

Hyra SOL-ExecBench · Recursive’in yayımladığı sonuçlar

Kuantum devresi yönlendirme: ek CNOT sayısı 269.037’den 258.369’a düşüyor

Kuantum hesaplamada da ölçülebilir optimizasyon görevleri vardır. İki kübit fiziksel donanımda komşu değilse yönlendirme algoritması ek işlemler koymak zorundadır. Tencent deposunda doğrulanmış 61 devre bulunuyor. Q20, Willow tarzı ve Heron tarzı üç topoloji, SimpleTES’in kaynak gösterdiği referansla karşılaştırılıyor:

Tablodaki aynı ölçütlere göre toplam 10.668 daha az CNOT gerekiyor; bu yaklaşık %4,0 azalma demek. Ölçülen şey devre eşleme yüküdür; kuantum bilgisayarının genel olarak %4 hızlanması değil.

Önerimiz: Kuantum devresi derliyorsanız önce üretilen OpenQASM dosyalarını ve bağlantı kısıtlarını kontrol edin. Genel bir yapay zekâ sohbet aracı seçiyorsanız bu sonuç, gündelik yanıt kalitesiyle doğrudan ilişkili değildir.

Kuantum devresi projesi · SimpleTES makalesi

Protein çıkarımı: HyPLM-Flash saniyede yaklaşık 130 bin kalıntı işler, HyInv milisaniyeler içinde toplu tasarım yapabilir

Bu veriler, ajanın uçtan uca hızını değil, Hyra 2.0’ın ürettiği bağımsız modelleri anlatır. Tencent, tek H20 üzerinde INT8 yapılandırmasıyla HyPLM-Flash için yaklaşık 130 bin kalıntı/saniye bildiriyor. 32 görev ve 28 açık kontrol noktasını kapsayan eşlik eden karşılaştırmada, ProteinGym sıfır örnekli Spearman korelasyonu 0,409 olarak veriliyor; bu, benzer boyuttaki bazı protein kodlayıcılarına istatistiksel olarak yakın. Ölçüt sınıflandırma doğruluğunu değil, korelasyonu gösterir.

HyInv için ise H20 üzerinde, yaklaşık 148 uzunluğunda 128 protein tasarımının toplu üretiminde optimize BF16 yolunda yaklaşık 25 milisaniye, referans uygulamada 999 milisaniye bildiriliyor. Ancak süre ilk derlemeyi ve CUDA Graph yakalamayı kapsamıyor. Optimize yol ile FP32 referans yolu arasında sayısal farklar da var; bu nedenle geçiş kararında yalnızca hıza bakılamaz.

Önerimiz: Biyoloji araştırma ekipleri kaliteyi, toplu işlem hızını ve tekrarlanabilirliği ayrı ayrı değerlendirmeli. Genellikle tek bir kısa dizi işliyorsanız önce ilk istek gecikmesini ölçün. Saniyedeki kalıntı sayısı büyük çevrimdışı gruplarda daha önemlidir. Dizi puanları da laboratuvar doğrulamasının yerine geçmez.

HyPLM-Flash · HyInv

Hunyuan Hyra 2.0, Recursive, SimpleTES, TTT-Discover ve AlphaEvolve karşılaştırması

Burada karşılaştırılanlar araştırma otomasyon sistemleri veya araştırma çerçeveleridir. Aynı sohbet arayüzünde birbirinin yerine kullanılabilen dört sohbet modeli değildirler. Mümkün olduğunda ortak görevlerin sayılarını kullanıyoruz. Ortak test yoksa yalnızca çalışma biçimlerini ve uygun kullanım alanlarını karşılaştırıyoruz.

Recursive: Hyra, benzer otomatik yapay zekâ araştırma görevlerinde daha iyi sonuçlar yayımladı

Recursive’in First Steps Toward Automated AI Research çalışması oldukça doğrudan bir karşılaştırma noktası. Sabit bütçeli küçük model eğitimi, eğitim hızı ve GPU işlem optimizasyonu için sonuçlar yayımlıyor. Hyra da kendi açık dizininde bu referanslarla karşılaştırma yapıyor:

Bizce Hyra, bu açık görevlerde sonuçları daha da iyileştirebildiğini gösteriyor. Ancak farklı kurumların deneylerini karşılaştırırken kodu, donanımı ve puanlayıcıyı dikkatle kontrol etmek gerekir. Kullanım önerimiz: Eğitim algoritmaları veya GPU performansı araştıran ekipler iki depodaki çalışmaları birlikte tekrarlayabilir. Yalnızca hazır bir müşteri hizmeti ya da yazı API’sine ihtiyacınız varsa bu puanlar yüzünden günlük modelinizi değiştirmeniz gerekmez.

Hyra kayıtları · Recursive araştırma sonuçları

SimpleTES: ikisi de nesnel puanlamaya dayanıyor, Hyra açık kuantum yönlendirme görevinde daha az kapı kullanıyor

SimpleTES; aday üretme, otomatik değerlendirme ve aramaya devam etme döngüsünün nasıl büyütülebileceğini araştırıyor. Makale 6 alanda 21 araştırma görevini kapsıyor ve kuantum devresi yönlendirme gibi sonuçlar yayımlıyor. Hyra, üç donanım topolojisinin açık karşılaştırmasında toplam ek CNOT sayısını 269.037 değerinden 258.369 değerine indiriyor. Bu görev açısından daha iyi bir aday çözüm sunuyor.

Ancak tek bir görevdeki başarıyı, bütün araştırma sisteminin her alanda üstün olduğu şeklinde yorumlamıyoruz. SimpleTES’in güçlü yanı, deney değerlendirmesini ve ölçekleme stratejilerini daha sistemli açıklaması; bu da araştırma optimizasyonu süreçleri kurmayı öğrenmek için yararlı. Kullanım önerimiz: Kendi otomatik deney platformunuzu tasarlamak için önce SimpleTES yöntemini okuyun. Somut kuantum yönlendirme iyileştirmelerini görmek için Hyra’nın OpenQASM dosyalarını inceleyin.

SimpleTES’in asıl makalesi · Hyra kuantum yönlendirme sonuçları

TTT-Discover: test sırasında öğrenmeye devam ediyor, Hyra ise sonraki matematik iyileştirmelerini gösteriyor

TTT-Discover’ın ayırt edici özelliği, sabit bir modele tekrar tekrar istem vermek yerine, modelin belirli bir araştırma görevini çözerken öğrenmeye devam etmesi. Makalesi matematik, GPU işlemleri ve biyolojik analiz alanlarındaki keşifleri bildiriyor ve tekrarlanabilir kod sunuyor. Hyra deposu, onun 1,502870 olan önceki otokorelasyon sabiti kaydına atıf yapıp kendi sonucunu 1,502850 olarak bildiriyor. Fark küçük olsa da hassas sayısal sınırlar aranan matematik optimizasyonunda araştırma değeri yalnızca yüzde farkıyla ölçülemez.

İki yöntemin ve deney bütçelerinin tümünü aynı koşullarda karşılaştıran eksiksiz, açık bir değerlendirme bulunmuyor. Kullanım önerimiz: Modellerin belirli bir görevde nasıl öğrenmeye devam ettiğini araştırmak için TTT-Discover’a bakın. Sonuçların kod, sayısal kanıt ve makalelerle nasıl belgelenebileceğini görmek için Hyra’nın sonuç düzeninden yararlanın.

TTT-Discover makalesi · Hyra matematik sonuçları

Google AlphaEvolve: doğrulanabilir araştırma sonuçları ile büyük ölçekli üretim deneyimi

Google DeepMind’ın AlphaEvolve sistemi de daha iyi algoritmalar bulmak için dil modellerini otomatik değerlendiricilerle birleştiriyor. Google; veri merkezi planlaması, çip tasarımı ve model eğitimindeki gerçek kullanımları anlatıyor. Örneklerden biri, veri merkezi hesaplama kaynaklarının ortalama yaklaşık %0,7 oranında geri kazanılması. Bu bir üretim ortamı örneği; Hyra’nın aynı projede elde ettiği bir test sonucu değil. Bu nedenle iki tarafın sayılarını tek tabloda zorla sıralamıyoruz.

Hyra’da açık matematik, kuantum ve protein araştırma çıktıları dikkat çekiyor. AlphaEvolve’da ise deneysel optimizasyondan üretim altyapısına geçiş deneyimi öne çıkıyor. Kullanım önerimiz: Çalışan çevrimiçi hizmetler yönetiyorsanız AlphaEvolve’un üretim doğrulaması ve uzun vadeli kazanç hesabı yaklaşımı daha yararlı olabilir. Kontrol edilebilir araştırma sonuçları sunmayı öğrenmek istiyorsanız Hyra’nın ayrı görev dizinlerinde tek bir çalışmayı tekrarlamak için daha kolay başlangıç noktaları bulabilirsiniz.

Google DeepMind AlphaEvolve · AlphaEvolve’un üretim ortamındaki ilerlemesi

Hunyuan Hyra 2.0 API hakkında sık sorulan sorular

API Hop model listesinde neden hyra-2.0 bulunmuyor?

Çünkü mevcut açık model kataloğunda Hyra 2.0, çağrılabilen bir metin modeli olarak yer almıyor. API Hop hyra-2.0 desteği sunarsa haberi en kısa sürede paylaşacağız.

Birleşik Chat Completions belgeleri · Hyra sonuç deposu

HyInv ve HyPLM-Flash hangi programlama arayüzlerini sunuyor?

Hyra 2.0’ın eğittiği bu iki bağımsız modelin somut erişim yolları var. Ancak bunları kullanmak Hyra Agent API çağırmakla aynı şey değil. HyInv, komut satırını ve Python’ı destekliyor. Örneğin:

# HyInv kurulu bir ortamda çalıştırın; structure.pdb sizin yapı dosyanızdır
python -m hyinv design --pdb structure.pdb --n 16 --seed 0 --out designs.fasta

HyPLM-Flash bir Python kodlama arayüzü sunuyor. Örneğin:

from hyplm import HyPLMEncoder

# Önce proje yönergelerine göre ağırlıkları indirin, birleştirin ve doğrulayın
encoder = HyPLMEncoder.from_pretrained("weights")
vectors = encoder.encode(["MKTAYIAKQRQISFVKSHFSRQ"], pooling="mean")

Bunları bağımsız hizmetler olarak kurmanızı öneriyoruz: önce deponun belirttiği bağımlılıkları yükleyin, sonra küçük örneklerle girdi ve çıktıları doğrulayın. HyPLM-Flash’ın hızlandırılmış uygulaması ayrıca CUDA, Triton ve uygun GPU ortamına bağlı. Her CPU’nun ya da ekran kartının açıklanan işlem hızına ulaşacağını varsaymayın.

HyInv kurulumu ve kullanımı · HyPLM-Flash kurulumu ve kullanımı

Tekrar çalıştırınca neden aynı sonuç çıkmayabilir, maliyet nasıl değerlendirilmelidir?

Önce model çıkarımı, eğitim deneyini tekrarlama ve tam araştırma ajanı maliyetlerini ayırmanızı öneriyoruz. Açık nanochat kaydı bir B200, nanoGPT Speedrun ise sekiz H100 kullanıyor. Uyumlu veri, sürücü, bağımlılık ve doğrulama ayarları gerekiyor. Kod aynı olsa bile GPU saat hızı, derleme önbelleği, yük ve rastgelelik son ölçümleri değiştirebilir. HyInv’in hızlandırılmış testi de ilk Triton derlemesini ve CUDA Graph yakalama süresini açıkça kapsam dışında bırakıyor.

Bu yüzden üç grup ölçüt kullanırdık: kalitenin hedefi karşılayıp karşılamadığı, toplam görev süresi ve doğrulanmış sonuç başına gereken kaynak. Eğitimde GPU saatlerini ve en az üç çalışmanın ortalamasını kaydedin. Çevrimiçi çıkarımda ilk istek gecikmesini, kararlı durum işlem hızını, GPU belleğini ve hata oranını ayrı ayrı izleyin. Araştırma ajanlarında başarısız deneyleri ve insan kontrolü süresini de hesaba katın. Şu an genel Hyra 2.0 API’si için doğrulanabilir bir fiyat yok; bu nedenle tahmini bir token ücreti yazmıyoruz.

Hyra nanochat tekrar üretim yönergeleri · nanoGPT Speedrun tekrar üretim yönergeleri