在文件数据挖掘处理技术中,如何从文本数据中抽取有价值的信息和知识是一个重要的数据挖据分支,是机器学习、自然语言处理、数理统计的基础技术之一,是信息检索,机器学习,AI智能等高端技术的的底层技术支持之一。
本组件智能分析提取其他各种文件中文本,为自然语言信息检索,机器学习等高端技术提供底层支持的技术组件,是Lucene/CLucene, Elasticsearch, Sphinx等全文检索工具,OA, ERP, CRM,网盘,文件管理等其他系统提供文件摘要及搜索前置服务。同时也可以为安全网关,邮件内容监控,内网安全等系统提供文件搜索及监控服务底层技术支持。
组件提供C#使用组件对大量文件进行文件内容的搜索,为Lucene.Net等提供底层技术支持。系统调用简单方便,效率高。
以下几个步骤即可:
1: 解压直接打开graccvsTest工程
2: 到官网下载graccvs64.dll保存到EXE执行程序所在文件夹下, DLL下载地址
3: 代码中从64行开始定义函数, 从258行是文件取正文示例, testToTextFile函数可以直接输入文件名称函数提取正文并保存为文本文件, testToString输入rft, html, pdf等文件名称放回字符串. 示例中还提供直接下载HTTP文件并提取正文的方法,使用超级简单.
4: 免费版可以提取50%-80%的文本,基本够用了。
5: 可以下载完整工程包直接测试, 工程下载地址
6: 以下是代码
- using System;
- using System.Collections.Generic;
- using System.Text;
- using System.Runtime.InteropServices;
- using System.Threading;
-
-
- namespace graccvsTest
- {
- public class DllInvoke
- {
- [DllImport("kernel32.dll")]
- private extern static IntPtr LoadLibrary(string path);
-
- [DllImport("kernel32.dll")]
- private extern static IntPtr GetProcAddress(IntPtr lib, string funcName);
-
- [DllImport("kernel32.dll")]
- private extern static bool FreeLibrary(IntPtr lib);
-
- private IntPtr hLib;
- public DllInvoke(String DLLPath)
- {
- hLib = LoadLibrary(DLLPath);
- }
-
- ~DllInvoke()
- {
- if (hLib != null)
- {
- FreeLibrary(hLib);
- }
- }
-
- public Delegate Invoke(string APIName, Type t)
- {
- if (hLib != null)
- {
- IntPtr api = GetProcAddress(hLib, APIName);
- return (Delegate)Marshal.GetDelegateForFunctionPointer(api, t);
- }
- else
- {
- return null;
- }
- }
- }
-
- class Program
- {
- //--------------------------------函数定义--------------------------------
- // 加载DLL,设置动态库需要的临时文件夹,且对此文件夹要有读写权限
- public delegate void LOAD(IntPtr tempPathPtr);
-
- /*
- 注册软件:
- 方式1:输入参数,corp为公司名称licText为注册码
- 方式2:把授权文件grauth.lic保存到动态库相同文件夹,调用TAuth函数(corp, licText都为空)系统自动加载grauth.lic
- 返回值:
- 0:免费版本许可为空
- 1:许可正常
- 2:序列号(公司授权名称)错误
- 3:加密数据格式错误
- 4:许可过期
- 5:许可验证错误
- 6:无效的许可
- 7:未知错误
- 注1:如果注册失败,系统变为免费版本
- 注2:免费版也需要调用此函数,corp和licText都为空
- */
- public delegate Int32 AUTH(IntPtr corp, IntPtr licText);
-
- // 提供文件正文,并保存到目标文件
- // inFilePtr输入文件指针, outFilePtr为TXT目标文件文件指针
- public delegate Int32 TOTEXTFILE(IntPtr inFilePtr, IntPtr outFilePtr);
- // 提供文件正文
- // inFilePtr输入文件指针, 返回UTF-8编码字符串数据指针(此指针需要使用FREESTRING函数释放内存)
- public delegate IntPtr TOSTRING(IntPtr inFilePtr);
- // 释放TOSTRING等函数的返回指针
- public delegate void FREESTRING(IntPtr p);
- // 得到最后的错误信息
- public delegate IntPtr LASTERR();
-
- // 提取Http/Https文件,返回字符串数据指针
- // url=Http/Https地址
- // fileExt=文件类型(比如:".pdf"),
- // timeout=超时设置,超过此数值系统终止下载文件。单位为毫秒,默认为0(等待文件下载直到完成)
- // httpParams=JSON格式header数据和cookie数据,默认为空
- /*
- JSON格式如下:
- {"headers":
- [{名称1: 值1},{名称2: 值2},...],
- "cookies":[
- {"name": 名称(字符串), "value": 值(字符串), "expires": 有效期(整数,单位毫秒),
- "path": 路径(字符串), "domain": 域名(字符串)},
- {"name": 名称(字符串), "value": 值(字符串), "expires": 有效期(整数,单位毫秒),
- "path": 路径(字符串), "domain": 域名(字符串)}
- ...
- ]}
- 例如:
- {"headers":[{"client_id": "g01x9"}, {"client_secret": "e23c89cc9fe"}, {"client_index": 10092}],
- "cookies":[{"name": "ga", "value": "1020", "expires":36000000, "path": "/hx/", "domain":"www.gaya-soft.cn"},
- {"name": "xc3", "value": "10099", "expires":240000, "path": "", "domain":""}]}
- */
- // 返回UTF-8编码字符串数据指针(此指针需要使用FREESTRING函数释放内存)
- public delegate IntPtr HTTPTOSTRING(IntPtr url, IntPtr fileExt, Int32 timeout, IntPtr httpParams);
-
- // 下载Http文件,并提取文本,保存到目标文件u
- // outfile为TXT目标文件文件指针,其他参数和HTTPTOSTRING参数相同
- public delegate Int32 HTTPTOTEXTFILE(IntPtr url, IntPtr fileExt, IntPtr outfile, Int32 timeout, IntPtr httpParams);
-
- //---------------------异步批量处理相关函数---------------------
- // 文件提取异步任务, Infile输入文件地址, Outfile为TXT目标文件文件
- // 如果提取某个文件错误,则 Outfile的内容如下格式: @ErrCode:错误代码, ErrMessage:错误提示
- public delegate void ADDTASK(IntPtr inFilePtr, IntPtr outTxtFilePtr);
- // 异步提取Http文件任务,参数同 HTTPTOTEXTFILE 函数
- public delegate void ADDHTTPTASK(IntPtr url, IntPtr fileExt, IntPtr outTxtFile, Int32 timeout, IntPtr httpParams);
- // 开始执行异步任务,返回值=1开始执行, 其他值未识别
- // =2 免费版不支持此功能,=3 没有可以执行的任务 ,=4 当前任务未完成
- public delegate Int32 ASYNCSTART();
- // 停止任务
- public delegate void ASYNCSTOP();
- // 一直等待,直到全部异步任务结束
- public delegate void ASYNCWAIT();
- // 得到执行异步任务的状态, =0 没开始, =1 正在处理中,=2 已中断, =99 处理完成
- public delegate Int32 ASYNCSTATE();
- // 设置执行异步任务的CPU数量(不大于软件授权数量),返回软件授权数量
- public delegate Int32 ASYNCMAXPROCS(Int32 num);
- //---------------------异步批量处理相关函数---------------------
-
- // 关闭动态库前调用此函数释放资源,否则关闭DLL会发生错误
- public delegate void UNLOAD();
- //--------------------------------以上为函数定义--------------------------------
-
-
- //--------------------------------函数变量--------------------------------
- static private DllInvoke dll;
- static private LOAD load;
- static private AUTH auth;
- static private LASTERR lastErr;
- static private FREESTRING freeString;
- static private TOTEXTFILE toTextFile;
- static private TOSTRING toString;
- static private HTTPTOSTRING httpToString;
- static private HTTPTOTEXTFILE httpToTextFile;
- static private ADDTASK addTask;
- static private ADDHTTPTASK addHttpTask;
- static private ASYNCSTART asyncStart;
- static private ASYNCSTOP asyncStop;
- static private ASYNCWAIT asyncWait;
- static private ASYNCSTATE asyncState;
- static private ASYNCMAXPROCS asyncMaxProcs;
- static private UNLOAD unload;
- //--------------------------------函数变量--------------------------------
-
- static public bool loadAllFun()
- {
- load = (LOAD)dll.Invoke("Load", typeof(LOAD));
- auth = (AUTH)dll.Invoke("Auth", typeof(AUTH));
- lastErr = (LASTERR)dll.Invoke("LastErr", typeof(LASTERR));
- freeString = (FREESTRING)dll.Invoke("FreeString", typeof(FREESTRING));
- toString = (TOSTRING)dll.Invoke("ToString", typeof(TOSTRING));
- toTextFile = (TOTEXTFILE)dll.Invoke("ToTextFile", typeof(TOTEXTFILE));
- httpToString = (HTTPTOSTRING)dll.Invoke("HttpToString", typeof(HTTPTOSTRING));
- httpToTextFile = (HTTPTOTEXTFILE)dll.Invoke("HttpToTextFile", typeof(HTTPTOTEXTFILE));
- addTask = (ADDTASK)dll.Invoke("AddTask", typeof(ADDTASK));
- addHttpTask = (ADDHTTPTASK)dll.Invoke("AddHttpTask", typeof(ADDHTTPTASK));
- asyncStart = (ASYNCSTART)dll.Invoke("AsyncStart", typeof(ASYNCSTART));
- asyncStop = (ASYNCSTOP)dll.Invoke("AsyncStop", typeof(ASYNCSTOP));
- asyncWait = (ASYNCWAIT)dll.Invoke("AsyncWait", typeof(ASYNCWAIT));
- asyncState = (ASYNCSTATE)dll.Invoke("AsyncState", typeof(ASYNCSTATE));
- asyncMaxProcs = (ASYNCMAXPROCS)dll.Invoke("AsyncMaxProcs", typeof(ASYNCMAXPROCS));
- unload = (UNLOAD)dll.Invoke("Unload", typeof(UNLOAD));
-
- if(load ==null || unload == null )
- {
- return false;
- }
- else
- {
- return true;
- }
- }
-
- public enum DllErrCode
- {
- TFE_OK = 0,
- TFE_UNKNOW = 1,
- TFE_FILE_NOTEXIST = 2,
- TFE_SAVE_ERROR = 3,
- TFE_OUTSIZE = 4,
- TFE_UNSUPPORTED = 5,
- TFE_ERROR_INTERFACE = 6,
- TFE_HTTP_ERR = 7,
- TFE_HTTP_FILE_NULL = 8,
- TFE_LICENCE_ERR = 9
- }
-
- // 根据错误类型返回错误信息
- public static string codeText(Int32 code)
- {
- switch ((DllErrCode)code)
- {
- case DllErrCode.TFE_OK:
- return "ok";
- case DllErrCode.TFE_UNKNOW:
- return "未知错误";
- case DllErrCode.TFE_FILE_NOTEXIST:
- return "提取源文件不存在";
- case DllErrCode.TFE_SAVE_ERROR:
- return "保存目标文件失败";
- case DllErrCode.TFE_OUTSIZE:
- return "提取的源文件超出设置的大小范围";
- case DllErrCode.TFE_UNSUPPORTED:
- return "不支持的提取文件格式";
- case DllErrCode.TFE_ERROR_INTERFACE:
- return "得到接口失败";
- case DllErrCode.TFE_HTTP_ERR:
- return "HTTP下载文件失败";
- case DllErrCode.TFE_HTTP_FILE_NULL:
- return "HTTP文件为空";
- case DllErrCode.TFE_LICENCE_ERR:
- return "软件许可错误";
- default:
- return "未知错误2";
- }
- }
-
- //转换为byte[] 为指针,输入byte[]可以避免忘记释放导致的问题
- static IntPtr stringToUtf8Pointer(byte[] bts)
- {
- return Marshal.UnsafeAddrOfPinnedArrayElement(bts, 0);
- }
-
- //utf8指针转换为字符串
- static string utf8PointerToString(IntPtr p)
-
原文:https://blog.csdn.net/kkyy2021/article/details/122525852