일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- licence delete curl
- sort
- zip 파일 암호화
- 차트
- Test
- ELASTIC
- aggs
- TensorFlow
- license delete
- matplotlib
- Java
- flask
- analyzer test
- API
- query
- docker
- high level client
- Mac
- springboot
- 파이썬
- License
- plugin
- Kafka
- 900gle
- token filter test
- zip 암호화
- MySQL
- Python
- aggregation
- Elasticsearch
- Today
- Total
목록Python/text embeddings (12)
개발잡부
https://github.com/golbin/TensorFlow-Tutorials GitHub - golbin/TensorFlow-Tutorials: 텐서플로우를 기초부터 응용까지 단계별로 연습할 수 있는 소스 코 텐서플로우를 기초부터 응용까지 단계별로 연습할 수 있는 소스 코드를 제공합니다. Contribute to golbin/TensorFlow-Tutorials development by creating an account on GitHub. github.com
https://ldh-6019.tistory.com/193?category=1043090 [tensorflow] word2vec 구현해보자 음.. 이기 뭐지.. 일단 수정해서 돌려보긴 했는데.. 30라인 학습 20라인 학습 import json import tensorflow as tf import tensorflow.compat.v1 as tf tf.disable_v2_behavior() import matplotlib import mat.. ldh-6019.tistory.com 이걸 수정해서 확인해보자 {"price":2240000,"name":"루이 비통 네오노에 M44020","id":1,"category":"패션잡화 여성가방 숄더백"} {"price":3400000,"name":"루이 비통 삭 ..
음.. 이기 뭐지.. 일단 수정해서 돌려보긴 했는데.. 30라인 학습 20라인 학습 import json import tensorflow as tf import tensorflow.compat.v1 as tf tf.disable_v2_behavior() import matplotlib import matplotlib.pyplot as plt import numpy as np #한글깨짐 처리 plt.rcParams['font.family'] = 'AppleGothic' def data(): data_array = [] DATA_FILE = "./data/products/products.json" i = 0 with open(DATA_FILE) as data_file: for line in data_file..
path 에서 받아쓰려고 했더니만 이거 버리고 다시 만들자! https://ldh-6019.tistory.com/195 [tensorflow 2] Text embedding API를 만들어 보자 2 flask_restx 로도 만들수 있네.. 하지만.. 있는걸 수정 후딱 post 만 만들어 보자 뭐지 2000 ms 나오길래 망했다고 생각했는데 다시 해보니 40 ms 대로 나옴 일단 만들어 # import tensorflow as tf import tens.. ldh-6019.tistory.com 900gle shopping에서 사용 할 text embedding API 크롤러, 검색 API 에서 사용 예정 method POST 로 만들고 싶었으나.. 일단 GET 으로 # import tensorflow a..
tensorflow embedding A/B 테스트 tensorflow embedding 모델을 2가지 방법으로 색인해서 테스트해 본다. A :
tensorflow embedding A/B 테스트 tensorflow embedding 2가지 모델을 2가지 방법으로 색인해서 테스트해 본다. #모델 API A : https://tfhub.dev/google/universal-sentence-encoder-multilingual-large/3" B : https://tfhub.dev/google/universal-sentence-encoder-multilingual/3" 공통 : 512차원 밀집백터 색인 cosineSimilarity 비교 2919개의 상품명, 카테고리 데이터 후보 1 A 모델을 사용하여 name (상품명) 으로 vector 추출 후보 2 B 모델을 사용하여 name (상품명) 으로 vector 추출 후보 3 A 모델을 사용하여 nam..
A,B 테스트에서 승리한 B모듈에 강한 상대가 나타났다 라지형님 https://tfhub.dev/google/universal-sentence-encoder-multilingual-large/3 TensorFlow Hub tfhub.dev 공정한 심사를 위해 일단 둘다 지우자 대결 항목 상품명으로 테스트 상품명 + 카테고리 테스트 상품명 + 카테고리 토큰 테스트 put_products.py # -*- coding: utf-8 -*- import json from elasticsearch import Elasticsearch from elasticsearch.helpers import bulk import tensorflow_hub as hub import tensorflow_text import kss,..
상품명에서 백터를 추출 하여 embed_a = hub.load("https://tfhub.dev/google/universal-sentence-encoder/4") embed_b = hub.load("https://tfhub.dev/google/universal-sentence-encoder-multilingual/3") a 와 b 를 비교해보자 # -*- coding: utf-8 -*- import json from elasticsearch import Elasticsearch from elasticsearch.helpers import bulk import tensorflow_hub as hub import tensorflow_text import kss, numpy ##### INDEXING ###..
universal-sentence-encoder-multilingual 2 (products) 상품정보로 테스트 해본다 아래 모듈을 테스트 한 결과가 기대와 서로 사맛디 아니하여 다른 모듈 테스트 - 다국어용이라고 함 https://tfhub.dev/google/universal-sentence-encoder/2 https://tfhub.dev/google/universal-sentence-encoder/4 4버전 테스트 https://ldh-6019.tistory.com/118?category=1043090 #가상환경 목록확인 conda info --envs #가상환경 생성 conda create --name "text" python="3.7" #가상환경 실행 conda activate text pip..
이걸 테스트 함 https://tfhub.dev/google/universal-sentence-encoder-multilingual/3 #가상환경 목록확인 conda info --envs #가상환경 생성 conda create --name "text" python="3.7" require.txt elasticsearch numpy tensorflow tensorflow-hub tensorflow_text kss regex pip install -r require.txt put_data.py # -*- coding: utf-8 -*- import json from elasticsearch import Elasticsearch from elasticsearch.helpers import bulk import..