inial commit
This commit is contained in:
commit
62ea8ab3e3
31 changed files with 6611 additions and 0 deletions
9
llmai.h
Normal file
9
llmai.h
Normal file
|
|
@ -0,0 +1,9 @@
|
|||
#pragma once
|
||||
|
||||
#include <llama.h>
|
||||
#include <vector>
|
||||
#include <string>
|
||||
|
||||
std::vector<llama_token> generate_text(std::vector<llama_token> prompt, llama_model* model);
|
||||
std::string llama_untokenize(const std::vector<llama_token>& tokens, const llama_model* model);
|
||||
std::string llama_token_to_piece(const llama_model* model, llama_token token);
|
||||
Loading…
Add table
Add a link
Reference in a new issue