从0开始搭建编程框架——插件
我将插件设计为两种类型。一种是框架自身携带的插件,用于增强其基础能力。一种是用户自定义插件,用于完成业务。本文将分别介绍在peleus框架下,这两种插件该怎么写。(转载请指明出于breaksoftware的csdn博客)
本文谈下框架自身携带的插件怎么写。我们以操作mysql为例。
第一步把mysqlclient开发环境给准备好。
Wget https://downloads.mysql.com/archives/get/file/mysql-connector-c-6.1.11-src.tar.gz .
tar -zxvf mysql-connector-c-6.1.11-src.tar.gz
cd mysql-connector-c-6.1.11-src
cmake -G "Unix Makefiles"
cmake -G "Unix Makefiles" -DCMAKE_INSTALL_PREFIX=/usr
make
sudo make install
由于实际安装到系统中的头文件不全,我们还要从https://github.com/mysql/mysql-server/blob/5.6/include/hash.h把hash.h文件放到/usr/include下。
因为mysql-connector-c是C语言编码,为了统一peleus下语言栈,我们将其封装成一个类
#include "mysql_connection.h"
#include <butil/logging.h>
#include <errmsg.h>
#include "mysql_error.h"namespace peleus {
namespace plugins {
namespace mysql_conns {using peleus::plugins::configure::mysql_connection;MysqlConnection::MysqlConnection() {_conn = NULL;
}MysqlConnection::~MysqlConnection() {_disconnect();
}void MysqlConnection::init(const mysql_connection& conf) {_conf.CopyFrom(conf);
}int MysqlConnection::mysql_real_query(const std::string& sql) {int ret = 0;if (!_conn) {ret = _reconnct();if (ret) {return ret;}}LOG(INFO) << "query sql:" << sql.c_str();const int max_retry = 2;for (auto i = 0; i < max_retry; i++) {ret = ::mysql_real_query(_conn, sql.c_str(), sql.length());if (0 == ret) {break;}else if (i < max_retry - 1){LOG(INFO) << "mysql connection is lost.retry " << i;int ret_re = _reconnct();if (ret_re) {LOG(WARNING) << "mysql connection is lost.retry error" << ret_re;return ret_re;}}else if (ret != CR_SERVER_LOST && ret != CR_SERVER_GONE_ERROR) {LOG(ERROR) << "query error:" << ret << " sql:" << sql.c_str();return ret;}}return ret;
}MYSQL_RES* MysqlConnection::mysql_store_result() {if (_conn) {return ::mysql_store_result(_conn);}else {return NULL;}
}int MysqlConnection::_reconnct() {if (_conn) {_disconnect();}return _connect();
}int MysqlConnection::_connect() {_conn = mysql_init(NULL);if (!_conn) {return CR_OUT_OF_MEMORY;}unsigned long time_out = _conf.read_timeout();unsigned long conn_out = _conf.conn_timeout();mysql_options(_conn, MYSQL_OPT_READ_TIMEOUT, (char*)&time_out);mysql_options(_conn, MYSQL_OPT_CONNECT_TIMEOUT, (char*)&conn_out);if (!mysql_real_connect(_conn,_conf.host().c_str(),_conf.user().c_str(),_conf.password().c_str(),_conf.dbname().c_str(),_conf.port(),NULL, 0)){_disconnect();return CR_SERVER_GONE_ERROR;}int ret = mysql_set_character_set(_conn, _conf.character_set().c_str());if (ret) {_disconnect();}return ret;
}void MysqlConnection::_disconnect() {if (_conn) {mysql_close(_conn);_conn = NULL;}
}}
}
}
MysqlConnection类主要对外提供连接和查询数据库的功能,并支持断开重连功能。这是针对一个连接的,我们需要连接池来提高连接的使用率。
MysqlConnectionPool::MysqlConnectionPool() {
}MysqlConnectionPool::~MysqlConnectionPool() {for (auto it = _unused.begin(); it != _unused.end(); it++) {if (*it) {delete *it;*it = NULL;}}
}void MysqlConnectionPool::init(const peleus::plugins::configure::mysql_connection_pool& conf) {_conf.CopyFrom(conf);int size = _conf.size();if (size < 0) {_use_pool = false;return;}_use_pool = true;pthread_mutex_init(&_mutex, NULL);pthread_mutex_lock(&_mutex);for (int i = 0; i< size; i++) {MysqlConnection* conn = new MysqlConnection();conn->init(_conf.conn_info());_unused.push_back(conn);}pthread_mutex_unlock(&_mutex);
}int MysqlConnectionPool::query(const std::string& sql, MysqlSession& session) {if (_use_pool) {return query_from_pool(sql, session);}return query_once(sql, session);
}void MysqlConnectionPool::recovery(MysqlConnection* conn) {if (_use_pool) {pthread_mutex_lock(&_mutex);_unused.push_back(conn);pthread_mutex_unlock(&_mutex);}
}int MysqlConnectionPool::query_once(const std::string& sql, MysqlSession& session) {MysqlConnection conn;conn.init(_conf.conn_info());int ret = conn.mysql_real_query(sql);session._res = conn.mysql_store_result();return ret;
}int MysqlConnectionPool::query_from_pool(const std::string& sql, MysqlSession& session) {MysqlConnection* conn = NULL;pthread_mutex_lock(&_mutex);if (!_unused.empty()) {conn = _unused.back();_unused.pop_back();}pthread_mutex_unlock(&_mutex);if (!conn) {LOG(ERROR) << "need more connection";return LACK_CONNECTION;}int ret = conn->mysql_real_query(sql);session._res = conn->mysql_store_result();session._conn = conn;session._conn_pool = this;return ret;
}
MysqlConnectionPool将空闲连接放在_unused中。当需要做查询操作时,便从_unused中取出一个连接使用。但是连接池里的连接不能交由用户管理,于是需要暴露query_from_pool方法,将连接隐藏起来。
由于业务可能需要连接多个数据库,所以需要做一个针对多个数据库的连接管理器
MysqlConns::MysqlConns() {
}MysqlConns::~MysqlConns() {for (auto it = _conns.begin(); it != _conns.end(); it++) {if (it->second) {delete it->second;it->second = NULL;}}
}void MysqlConns::init(const char* conf_floder_path) {TraversalCallback traversal_floder = [this](const char* path) {this->init(path);};TraversalCallback traversal_file = [this](const char* path) {this->init_from_file(path);};TraversalFloder traversal;traversal.set_callback(traversal_floder, traversal_file, __FILE__);traversal.init(conf_floder_path);
}void MysqlConns::init_from_file(const char* conf_path) {mysql_connection_pool config;bool suc = peleus::utils::file2conf(conf_path, config);if (!suc) {LOG(ERROR) << "init " << conf_path << " error";return;}const std::string& conn_name = config.name();MysqlConnectionPool* conn_pool = init_conn_pool(config);if (!conn_pool) {LOG(ERROR) << "init mysql connection pool error:" << conn_name;return;}_conns[conn_name] = conn_pool;
}MysqlConnectionPool* MysqlConns::init_conn_pool(const mysql_connection_pool& conf) {MysqlConnectionPool* conn_pool = new MysqlConnectionPool();conn_pool->init(conf);return conn_pool;
}int MysqlConns::query(const std::string& conn_name,const std::string& sql,MysqlSession& session)
{auto it = _conns.find(conn_name);if (it == _conns.end()) {LOG(ERROR) << "cant find mysql connection:" << conn_name.c_str();return NO_CONNECTION;}if (!it->second) {LOG(ERROR) << "mysql connection pool is null";return NULL_CONNECTION;}return it->second->query(sql, session);
}
至此,我们将mysql最基础的操作部分给封装完毕。现在开始写插件
class MysqlVisitorService :public peleus::plugins::MysqlVisitorService,public peleus::entrance::Entrance
{
public:explicit MysqlVisitorService(const char* name);public:virtual void query(::google::protobuf::RpcController* controller,const ::peleus::plugins::MysqlVisitorServiceRequest* request,::peleus::plugins::MysqlVisitorServiceResponse* response,::google::protobuf::Closure* done) override;
public:virtual void on_init(const char* conf_path) final;virtual void reset() final;
private:void parse_res(MYSQL_RES* res,::peleus::plugins::MysqlVisitorServiceResponse* response);void parse_session(peleus::plugins::mysql_conns::MysqlSession& session,::peleus::plugins::MysqlVisitorServiceResponse* response);
};
MysqlVisitorService将作为内部服务的一个业务逻辑存在,同时它也是一个入口,所以继承于Entrance接口。MysqlVisitorService是protobuf产生的接口类
syntax="proto2";
option cc_generic_services = true;package peleus.plugins;message MysqlVisitorServiceRequest {required string conn_name = 1;required string command = 2;
};message MysqlVisitorRow {repeated string column = 1;
};message MysqlVisitorServiceResponse {required bool suc = 1;repeated MysqlVisitorRow rows = 2;
};service MysqlVisitorService {rpc query(MysqlVisitorServiceRequest) returns (MysqlVisitorServiceResponse);
};
MysqlVisitorService的业务代码就是query,其会调用MysqlConns类的方法去查询结果,然后解析和封装返回
MysqlVisitorService::MysqlVisitorService(const char* name) :peleus::entrance::Entrance(name) {
}void MysqlVisitorService::query(::google::protobuf::RpcController* controller,const ::peleus::plugins::MysqlVisitorServiceRequest* request,::peleus::plugins::MysqlVisitorServiceResponse* response,::google::protobuf::Closure* done)
{ClosureGuard done_guard(done);const std::string& conn_name = request->conn_name();const std::string& command = request->command();MysqlSession session;int ret = MysqlConns::get_mutable_instance().query(conn_name, command, session);parse_session(session, response);response->set_suc(0 == ret ? true : false);
}void MysqlVisitorService::parse_session(MysqlSession& session,::peleus::plugins::MysqlVisitorServiceResponse* response)
{MYSQL_RES* res = session._res;if (!res) {return;}int row_size = mysql_num_rows(res);for (int i = 0; i < row_size; i++) {parse_res(res, response);}
}void MysqlVisitorService::parse_res(MYSQL_RES* res,::peleus::plugins::MysqlVisitorServiceResponse* response)
{MysqlVisitorRow* row = response->add_rows();MYSQL_ROW res_row = mysql_fetch_row(res);if (!row) {LOG(ERROR) << "add_rows return null";return;}int field_size = mysql_num_fields(res);for (int i = 0; i < field_size; i++) {row->add_column(std::string(res_row[i]));}
}
最后在插件启动代码中加入注册方法就行了
extern "C" {bool plugins_main(const char*);
};#define USE(x, y) \if (item_conf.name() == x) { \y::get_mutable_instance().init(item_conf.conf_path().c_str()); \}#define REG(x, y, z) \if (item_conf.name() == x) { \return register_class<y>(z); \}bool load_moudle(const plugin_conf& item_conf) {if (!item_conf.on()) {return true;}REG("mysql_visitor_service", MysqlVisitorService, "MysqlVisitorService");return true;
}bool plugins_main(const char* conf_path) {plugins_conf config;bool suc = file2conf(conf_path, config);if (!suc) {LOG(ERROR) << "conv config error:" << conf_path;return false;}size_t size = config.conf_size();for (size_t i = 0; i < size; i++) {const plugin_conf& item_conf = config.conf(i);if (!load_moudle(item_conf)) {break;}}return true;
}
相关文章:
蚂蚁金服AAAI收录论文曝光,动态网络剪枝方法、无语预训练的网络剪枝技术有重大突破...
来源 | 蚂蚁金服责编 | Carol出品 | AI科技大本营(ID:rgznai100)一年一度在人工智能方向的顶级会议之一AAAI 2020于2月7日至12日在美国纽约举行,旨在汇集世界各地的人工智能理论和领域应用的最新成果。以下是蚂蚁金服的技术专家对入选论文《基…

安装 Enthought Tool Suite 时遇到的问题
文:fasiondog 来源:http://blog.csdn.net/KongDong/archive/2009/05/26/4217942.aspx 因想研究一下Enthought Tool Suite ,尤其是可能需要使用其中的Chaco 和Envisage 软 件包,便安装试用一下。刚开始装机时曾经使用新立得安装过…

SQL知识累积
详细介绍select的文章,展示原始数据、SQL、查询结果,以及在不同数据库下SQL应该如何写。 https://en.wikipedia.org/wiki/Select_(SQL) 目录如下: Contents [hide] 1 Examples 2 Limiting result rows 2.1 ROW_NUMBER() window fu…
C++拾趣——使用多态减少泛型带来的代码膨胀
泛型编程是C语言中一种非常重要的技术,它可以让我们大大减少相似代码编写量。有时候,我和同事提及该技术时,称它是“一种让编译器帮我们写代码的技术”。(转载请指明出于breaksoftware的csdn博客) C是一门静态语言&…

如何成为一个优秀的程序员
本文给出了十五个评定软件开发人员的标准,可以帮助程序员朋友从一个好的程序员成为一个优秀的程序员,和大家共飨! 怎样评定一名软件开发人员?这是一个颇为奇怪的问题。现在已经有了很多的理论和形式来做这件事,人力资源…
2020年,最适合AI的5种编程语言
来源 | medium编译 | 张涛责编 | Carol出品 | AI科技大本营(ID:rgznai100)AI系统的开发必须有计算机代码,而计算机程序的开发有不同类型的编程语言可以选择。本文分析哪些编程语言最适合你的人工智能或机器学习用例开发。文中给出了一个想要在…

kafka生产者、消费者java示例
1. 生产者 import java.util.Properties; import kafka.javaapi.producer.Producer; import kafka.producer.KeyedMessage; import kafka.producer.ProducerConfig; public class MyProducer { public static void main(String[] args) { Properties props new Properti…
bug诞生记——临时变量、栈变量导致的双杀
这是《bug诞生记》的第一篇文章。本来想起个文艺点的名字,比如《Satan(撒旦)来了》,但是最后还是想让这系列的重心放在“bug的产生过程”和“缺失的知识点”上,于是就有了本系列这个稍微中性的名称。(转载请…
波士顿动力的机器狗上班了!巡逻、检测不在话下,挪威公司为其编发工号
作者 | 神经小刀来源 | HyperAI超神经(ID: HyperAI)AI 界的网红,波士顿动力机器狗 Spot ,近日获得了新的工作岗位,它将入职挪威的石油天然气开采公司 Aker ,负责巡检工作,还破天荒地获得了工牌和…

C语言运算符的优先级
() [] -> . (--->) ! ~ -- - (type类型) * & sizeof (<---) 单目运算符 * / % (--->) - (--->) << >> (--->) 移位运算符 < < > > (--->) 关系运算符 ! (--->) 等于或不等于&…

Java 多线程(六) synchronized关键字详解
多线程的同步机制对资源进行加锁,使得在同一个时间,只有一个线程可以进行操作,同步用以解决多个线程同时访问时可能出现的问题。 同步机制可以使用synchronized关键字实现。 当synchronized关键字修饰一个方法的时候,该方法叫做同…

bug诞生记——const_cast引发只读数据区域写违例
对于C这种强类型的语言,明确的类型既带来了执行的高效,又让错误的发生提前到编译期。所以像const这类体现设计者意图的关键字,可以隐性的透露给我们它描述的对象的使用边界。它是我们的朋友,我们要学会和它相处,而不是…
听说Java被玩儿淘汰了?骨灰级程序员:远比你们想象的强大!
听过Java快被淘汰了?告诉你:没那么容易!Java从诞生至今,已经走过了20多年的历史,虽然相比新型的技术语言算是“老古董”,但是它的应用依然最为广泛,并且有着非常成熟的生态。而且我相信…

RapidFramework使用Oracle的步骤
1.在lib包中加入Oracle驱动2.修改generator.properties,注释掉mysql,打开oracle注释 jdbc.urljdbc:oracle:thin:127.0.0.1:1521:orcljdbc.driveroracle.jdbc.driver.OracleDriver 3.设置jdbc.schemaMEETRICEjdbc.catalog 注意:jdbc.schema的值为大写 4.修改jdbc.properties jdb…

拇指接龙游戏升级记录03(升级MainScene.cpp)
MainScene是拇指接龙游戏的主游戏场景文件,拥有近5000行代码。说实在的,实现自cocos2d-x 2.x版本向当下最新的3.8.1版本的升级过程,其中涉及的技术不是一下能够说明的。有些是形式上的简单修改,更多的则是性能上的提升相应的修改。…

Flex与.NET互操作(十二):FluorineFx.Net的及时通信应用(Remote Shared Objects)(三)
远程共享对象(Remote Shared Objects) 可以用来跟踪、存储、共享以及做多客户端的数据同步操作。只要共享对象上的数据发生了改变,将会把最新数据同步到所有连接到该共享对象的应用程序客户端。FluorineFx所提供的远程共享对象(Remote Shared Objects)和FMS的共享对…

ffmpeg api的应用——提取视频图片
这些年来,“短视频”吸引了无数网民的注意。相对于丰富有趣的内容,我们码农可能更关心其底层技术实现。本系列文章将结合ffmpeg,讲解几则视频处理案例。(转载请指明出于breaksoftware的csdn博客) “短视频”都是以“文…
蚂蚁金服AAAI论文:基于长短期老师的样本蒸馏方法和自动车险定损系统的最新突破...
来源 | 蚂蚁金服出品 | AI科技大本营(ID:rgznai100)一年一度在人工智能方向的顶级会议之一AAAI 2020于2月7日至12日在美国纽约举行,旨在汇集世界各地的人工智能理论和领域应用的最新成果。以下是蚂蚁金服的技术专家对入选论文《基于长短期老师…

C# 实现HTML转换成图片的方法
/// <summary> /// 通过WebBrowser控件来实现从HTML到Bmp图片的生成。 /// </summary> /// <param name"htmPath">HTML路径</param> /// <returns>Bmp图片路径</returns> private static st…
一套使用注入和Hook技术托管入口函数的方案
工作中,我们可能会经常使用开源项目解决一些领域中的问题。这种“拿来主义”是一种“专业人干专业事”的思想,非常实用。(转载请指明出于breaksoftware的csdn博客) 一般场景下,我们都是把开源项目代码编译到我们自己的…

微软发布虚机管理SCVMM 2008 R2 RC版
来源:IT168服务器频道近日,微软发布了SCVMM(系统中心虚拟机管理器,System Center Virtual Machine Manager)2008 R2的RC版本。据了解,新的SCVMM相比去年的版本增加了六大新功能,目前用户可以从W…
AI芯片行业发展的来龙去脉
作者 | 清华大学微电子学研究所尹首一来源 | 《微纳电子与智能制造》期刊引言人 工 智 能( aritificial intelligence ,AI )是 一 门融合了数学 、计算机科学 、统计学 、脑神经学和社会科学 的前沿综合性技术。它的目标是希望计算机可以像 人一样思考 ,…

8)排序②排序算法之选择排序[1]直接选择排序
1 #include<iostream>2 using namespace std;3 4 //*******直接选择排序*********5 int select_sort(int n,int array[100]){6 int i,j;7 for(i0;i<n;i){8 for(ji;j<n;j){9 if(array[i]>array[j]){ 10 int temparr…

一份招聘需求的分析
今早,长期合作伙伴又给我们一份招聘需求,以下是招聘条件: 工作性质:全职 工作地点:南京 发布日期:2009/6/15 截止日期:2009/6/30 招聘人数:6 工作经验:不限 学 历&…

bug诞生记——隐蔽的指针偏移计算导致的数据错乱
C语言为了兼容C语言,做了很多设计方面的考量。但是有些兼容设计产生了不清晰的认识。本文就将讨论一个因为认知不清晰而导致的bug。(转载请指明出于breaksoftware的csdn博客) class Base { public:Base() default;void set_v_b(int v_b) {_…
福利直投!这个活动承包你2020全年技术干货
CSDN技术公开课有奖评选开始啦~~听过课的小伙伴们,哪位讲师的分享让你获益匪浅?记得给TA投票哦!投票后获取入群方式,参与抽奖,奖品很丰厚哦~~进入付费时代,如今我们看似只要招招手,一切知识随手…

第四章 Controller接口控制器详解(5)——跟着开涛学SpringMVC
2019独角兽企业重金招聘Python工程师标准>>> 原创内容,转载请注明iteye http://jinnianshilongnian.iteye.com/ 4.15、MultiActionController 之前学过的控制器如AbstractCommandController、SimpleFormController等一般对应一个功能处理方法ÿ…
自动机器学习:团队如何在自动学习项目中一起工作?(附链接)
来源 | 数据派THU作者 | Francesca Lazzeri翻译 | 王琦责编 | Carol出品 | AI科技大本营(ID:rgznai100)去年11月,我写了一篇关于使用自动机器学习来进行AI民主化(democratization)的文章(见下面链接&#x…
C++拾趣——STL容器的插入、删除、遍历和查找操作性能对比(ubuntu g++)——插入
操作系统是ubuntu 18.04.1 server amd64,gcc是 7.3.0。编译产出是64位测试程序。(转载请指明出于breaksoftware的csdn博客) 因为加入测量,就会导致误差。我已经尽量将环境影响降低,但是还是难免有误差。大家可以通过文…

SSIS中的记录集目标
这一篇,我们来看看另外一个特殊的目标组件:记录集目标。它与DataReader目标有些类似,也是在内存中的。但与DataReader目标不同的是,它可以被下游任务使用。 它的使用也比较简单,我们一般指定一个变量来接收它的结果&am…