Potrebujem vymeniť KEY od za VAL. Kľúč je regex ako import. * A val je reťazec ako „dôležitý“. Viem, že tento kód nie je dobrý, pretože kľúč je regulárny, ale nenašiel som riešenie, ktoré by fungovalo.
#import stem dict
d = {}
with open("Stem rečnik.txt") as f:
for line in f:
key, val = line.split(":")
d[key.replace("n","")] = val.replace("n","")
#define tokenizer
def custom_tokenizer(text):
#split- space
tokens = nltk.tokenize.word_tokenize(text)
#stemmer
for key,val in d.items():
tokens=[token.replace(key,val) for token in tokens]
#remove special characters
tokens=[re.sub(r"[^a-zA-Z0-9]","",token) for token in tokens]
return tokens
cv=CountVectorizer(tokenizer= custom_tokenizer,analyzer ="word",encoding="utf-8", min_df=0, max_df=1.0)
post_textCV= cv.fit_transform(post_text)
df=DataFrame(post_textCV.A, columns=cv.get_feature_names())
print(df.head)
Problém je teda v tomto riadku:
tokens=[token.replace(key,val) for token in tokens]
odpovede:
1 pre odpoveď č. 1token.replace(key,val)
dovoláva str.replace
čo je nahradenie základného reťazca.
Ak chcete zavolať regulárnu náhradu, urobte to namiesto toho:
tokens=[re.sub(key,val,token) for token in tokens]
to znamená, že sa zdá byť dosť neefektívne, čím sa obnoví porozumenie zoznamu pre každý pár kľúč / val.