MUMU: BOOTSTRAPPING MULTIMODAL IMAGE GENERATION FROM TEXT-TO-IMAGE DATA
1 min read
MUMU: BOOTSTRAPPING MULTIMODAL IMAGE GENERATION FROM TEXT-TO-IMAGE DATA
SFT 모델과 너무 멀어지면 SFT 에서 학습한 능력이 소실.
GAN Generative Adversarial Network 의 RL/value function \displaystyle\min {G}\max {D}V(D,G)=\mathbb{E} {x\sim\operatorname{P {data(x)}}}[\log D(x)]+\mathbb{E} {z\sim P...
lambdal/text-to-pokemon – Run with an API on Replicate Stable Diffusion fine-tuning GitHub - justinpinkney/stable-diffusion 키워드 광고.
Gradient accumulation is a technique where you can train on bigger batch sizes than your machine would normally be able to fit into memory.
Multimodal Learning Multimodal learning은 text, image, audio, video, tabular feature처럼 서로 다른 modality의 정보를 함께 사용하는 학습 설정이다.
Variational Autoencoder(VAE)는 autoencoder 를 확률 모델로 확장한 generative model 이다.
CLIP(Contrastive Language-Image Pre-training)은 image encoder 와 text encoder 를 함께 학습해서, 이미지와 텍스트를 같은 embedding space 에 맞추는 multimodal model 이다.
History comfyUI workflow 셋팅이 필요하다 후보 모델들 Mochi 1: genmo/mochi-1-preview · Hugging Face HunyuanVideo LTX Video: GitHub - Lightricks/LTX-Video: Official repository for LTX-Video...
LLMOps vs. MLOps Reference: 대규모 언어 모델의 핵심 기술 LLMOps를 알아보자! | KT Enterprise LLMOps 와 MLOps 는 머신러닝 모델을 효율적으로 운영하고 관리하기 위해 존재합니다. 목적은 같지만, 명확한 차이점이 있는데요.
Let’s reproduce GPT-2 (124M) - YouTube Questions dropout 은 왜 softmax 이후에 적용하는 걸까? GPT 모델에서 cheating 방지를 위해 masking 하는 방식은 아직도 이해를 잘 못하겠음.