라마 ai와 연동
라마 ai를 보다 쉽게 다룰 수 있는 ollama라는 프로그램이 있는데 리눅스(우분투)에서 잘돌아 갑니다.
ollama와 그누보드를 연동하는 것은 어떨까요?
검색어 제안/단순 일치하는 검색어만 찾는 것이 아닌 ai를 활용한 관련 검색어 포함 검색 기능 등을 만들면 좋을 것 같아요. 그리고 이를 기반으로 각각의 ip에 컨텐츠 알고리즘을 형성하는 기능을 유료컨텐츠로 제공하면 좋을 것 같아요
댓글 1개
1년 전
글 자체를 백터화시키고, 그거랑 맞는 추천 score를 알고리즘으로 구해야하는데 단순 llm 으로 생성이 가능할까요?
gpt api 사용해서 관련 검색어에 대한 추천 검색어를 캐싱혹은 디비에 저장해서 서빙하는게 더 싸게먹힐것같습니다.
라마 모델 작은거 서빙한다고가정했을때 일반 웹서버로는 tps 가 안나올거구요.
게시판 목록
그누보드5 제안
이런 기능이 필요합니다. 질문도 애매하고, 의뢰도 애매한 내용들을 제안하세요. 영카트 포함입니다.
| 번호 | 제목 | 글쓴이 | 날짜 | 조회 |
|---|---|---|---|---|
| 공지 | 1년 전 | 855 | ||
| 38 |
비버팩토리
|
2개월 전 | 120 | |
| 37 |
안졸리니졸리니
|
2개월 전 | 187 | |
| 36 |
위젯마스터
|
3개월 전 | 195 | |
| 35 | 3개월 전 | 155 | ||
| 34 | 3개월 전 | 284 | ||
| 33 | 4개월 전 | 526 | ||
| 32 | 8개월 전 | 869 | ||
| 31 | 8개월 전 | 793 | ||
| 30 |
 위토즈소프트 |
9개월 전 | 823 | |
| 29 |
 드렁크수달 |
9개월 전 | 465 | |
| 28 |
위토즈소프트 |
11개월 전 | 566 | |
| 27 | 1년 전 | 627 | ||
| 26 | 1년 전 | 693 | ||
| 25 | 1년 전 | 535 | ||
| 24 | 1년 전 | 917 | ||
| 23 |
 swkim87 |
1년 전 | 979 | |
| 22 |
 tonton |
1년 전 | 950 | |
| 21 | 1년 전 | 790 | ||
| 20 | 1년 전 | 1147 | ||
| 19 | 1년 전 | 781 | ||
| 18 |
개구쟁이케빈
|
1년 전 | 621 | |
| 17 | 1년 전 | 745 | ||
| 16 |
jihan?
|
1년 전 | 784 | |
| 15 | 1년 전 | 653 | ||
| 14 |
건강하게달콤하게
|
1년 전 | 680 | |
| 13 | 1년 전 | 743 | ||
| 12 | 1년 전 | 940 | ||
| 11 |
 똥싼너구리 |
1년 전 | 806 | |
| 10 | 1년 전 | 654 | ||
| 9 | 1년 전 | 827 |
댓글 작성
댓글을 작성하시려면 로그인이 필요합니다.
로그인하기