当前位置: 首页 > 编程日记 > 正文

大数据系列6:HBase – 基于Hadoop的分布式数据库

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

wget http://mirrors.cnnic.cn/apache/zookeeper/zookeeper-3.4.5/zookeeper-3.4.5.tar.gz

tar -xzvf zookeeper-3.4.5.tar.gz

cd zookeeper-3.4.5

cp conf/zoo_sample.cfg conf/zoo.cfg

vi conf/zoo.cfg
  
修改:dataDir=/home/ysc/zookeeper
  
添加:
       server.1=host001:2888:3888

maxClientCnxns=100

mkdir /home/ysc/zookeeper注:dataDirzookeeper的数据目录,需要手动创建

echo 1 > /home/ysc/zookeeper/myid

启动服务:

bin/zkServer.sh start

连接服务:

bin/zkCli.sh -server host001:2181

查看服务状态:

bin/zkServer.sh status

 

hbase存在系统时间同步的问题,并且误差要再30s以内

sudo apt-get install ntp
sudo ntpdate -u 210.72.145.44

HBase是数据库,会在同一时间使用很多的文件句柄,大多数linux系统使用的默认值1024是不能满足的,还需要修改 hbase 用户的nproc,在压力很大的情况下,如果过低会造成 OutOfMemoryError异常

sudo vi /etc/security/limits.conf

添加:
   ysc soft nproc 32000
   ysc hard nproc 32000
   ysc soft nofile 32768
   ysc hard nofile 32768

sudo vi /etc/pam.d/common-session
添加:
   session required  pam_limits.so

 

wget http://mirrors.hust.edu.cn/apache/hbase/hbase-0.94.12/hbase-0.94.12.tar.gz

tar -xzvf  hbase-0.94.12.tar.gz

cd hbase-0.94.12
vi conf/hbase-env.sh

追加:
  export JAVA_HOME=/home/ysc/jdk1.7.0_40
  export HBASE_MANAGES_ZK=false
  export HBASE_HEAPSIZE=1000

vi conf/hbase-site.xml

加入:

 <property> 

  <name>hbase.rootdir</name> 

  <value>hdfs://host001:9000/hbase</value>    

 </property>

 <property> 

  <name>hbase.cluster.distributed</name> 

  <value>true</value> 

 </property> 

 <property>  

  <name>hbase.zookeeper.quorum</name>       

  <value>host001</value>  

 </property>

vi conf/regionservers

localhosthost001

因为HBase建立在Hadoop之上,Hadoop使用的hadoop*.jarHBase使用的必须一致。所以要将 HBase lib目录下的hadoop*.jar替换成Hadoop里面的那个,防止版本冲突。

cp  /home/ysc/hadoop-1.2.1/hadoop-core-1.2.1.jar  /home/ysc/hbase-0.94.12/lib

rm  /home/ysc/hbase-0.94.12/lib/hadoop-core-1.0.4.jar

启动hadoop并创建目录
hadoop fs -mkdir /hbase

sudo vi /etc/profile

增加:

export PATH=$PATH:/home/ysc/hbase-0.94.12/bin

source /etc/profile

启动初始 HBase 集群:

start-hbase.sh

web界面
  http://host001:60010
  http://host001:60030

停止HBase 集群:

stop-hbase.sh

启动额外备份主服务器,可以启动到 9 个备份服务器(总数10 )

local-master-backup.sh start 1

local-master-backup.sh start 2 3

启动更多regionservers, 支持到99 个额外regionservers(100)

local-regionservers.sh start 1

local-regionservers.sh start 2 3 4 5

停止备份主服务器:

cat /tmp/hbase-ysc-1-master.pid | xargs kill -9

停止单独regionserver

local-regionservers.sh stop 1

使用HBase命令行模式:

hbaseshell

 

命令演示:

创建表Person,列族basicdetail

create 'Person', 'basic', 'detail'

看有哪些表:

list

看是否有person表:

list 'person'

增加数据,动态增加列:

数据1

put 'Person','533001198510125838', 'basic:idcard', '533001198510125838'

put 'Person', '533001198510125838','basic:name', '章子怡'

put 'Person','533001198510125838', 'detail:age', '25'

数据2

put 'Person', '533001198510125837','basic:idcard', '533001198510125837'

put 'Person','533001198510125837', 'basic:name', '杨尚川'

put 'Person','533001198510125837', 'detail:age', '22'

查询整条数据:

get 'Person','533001198510125838'

get 'Person','533001198510125837'

查询单列数据:

get 'Person', '533001198510125837','basic:idcard'

查询多列数据:

get 'Person', '533001198510125837','basic:idcard', 'detail:age'

查询全部数据:

scan 'Person'

删除表:

disable 'Person'

drop 'Person'

APDPlat旗下十大开源项目


转载于:https://my.oschina.net/apdplat/blog/396587

相关文章:

下载源码、编译

源码官网&#xff1a;https://github.com/PX4/Firmware/ 在Branch:master中选择第二个Tags下面就是源码版本&#xff0c;可以选择下载最新版本。 下载指令 git clone -b v1.11.0 https://github.com/PX4/Firmware.git --recursive 根据下载的版本更换版本号&#xff0c;这里下…

CSS、JavaScript、PHP和Python编程合二为一

CSS, JavaScript,PHP And Python Programming All in One Course 在一门课程中学习Javascript、PHP和Python编程语言的CSS 你会学到: CSS和JavaScript概念介绍&#xff0c;PHP编程语言和Python编程语言 编写CSS脚本和理解概念 CSS样式、CSS 2D变换、CSS三维变换入门 Javascrip…

maven工程出现java.lang.ClassNotFoundException: org.springframework.web.context.ContextLoaderListener...

经过百度,发现网上很多方法虽然描述的错误和我的一样,但是发现都不适我自身的这种情况.后来我自己解决了.解决方法如下: 接着:update一下工程 最后:就可以直接在这里run一下了. 转载于:https://www.cnblogs.com/fengxuanyuan/p/5210910.html

操作系统学习1:操作系统概述

操作系统概述 什么是操作系统&#xff1f; 操作系统&#xff08;Operating System&#xff0c;简称OS&#xff09;是一个系统软件&#xff0c;它管理计算机的软硬件资源&#xff0c;并为计算机程序提供服务。 操作系统的五大功能 文件管理 文件管理包括&#xff1a;存储空间…

1578: [Usaco2009 Feb]Stock Market 股票市场

1578: [Usaco2009 Feb]Stock Market 股票市场 Time Limit: 10 Sec Memory Limit: 64 MBSubmit: 414 Solved: 199[Submit][Status][Discuss]Description 尽管奶牛们天生谨慎&#xff0c;她们仍然在住房抵押信贷市场中受到打击&#xff0c;现在她们开始着手于股市。 Bessie很有…

代码部分分区域突破

代码结构 board部分 在这里主要是用到了里面的px4部分&#xff0c;里面包含各种编译版本&#xff0c;主要现在用的就是fmu-v5版本&#xff0c;打开后里面需要在default.cmake里面找到MODULES,在下面添加自己写的文件名字。 这里是有四个串口&#xff0c;如果设备想要获取信息…

用Python和项目进行机器学习(初学者) Machine Learning A-Z with Python with Project (Beginner)

初学者用Python完成机器学习课程 你会学到: Python上的主机器学习 进行有力的分析 做出准确的预测 制作健壮的机器学习模型 将机器学习用于个人目的 建立一支强大的机器学习模型大军&#xff0c;并知道如何将它们结合起来解决任何问题 使用K-均值聚类、支持向量机(SVM)、KNN、…

操作系统学习2:操作系统的发展和概览

操作系统的发展和概览 手工阶段&#xff08;电子管时代&#xff09; 特点&#xff1a; 用户独占全机 用户独占计算机所有资源&#xff0c;资源利用率低CPU等待用户 计算前&#xff0c;手工装入纸带或卡片&#xff1b;计算完成后&#xff0c;手工卸取纸带或卡片&#xff1b;C…

java内存数据管理

准确的说应该是java8以前的内存管理方式 区别在永久代(方法区)上 public class RamManager {//1.a存储于永久代public static int a 1;private String str;private int x;private AA aaa;  // method_1方法位于栈中// temp1保存的是引用地址&#xff0c;在栈中public void me…

职责链模式(Chain of Responsibility)(对象行为型)

1.概述 你去政府部门求人办事过吗&#xff1f;有时候你会遇到过官员踢球推责&#xff0c;你的问题在我这里能解决就解决&#xff0c;不能解决就推卸给另外个一个部门&#xff08;对象&#xff09;。至于到底谁来解决这个问题呢&#xff1f;政府部门就是为了可以避免屁民的请求与…

Ubuntu使用QCustomPlot简介

参考网址 https://blog.csdn.net/zyc_csdn/article/details/78840376 显示实时数据 https://blog.csdn.net/qq_28877125/article/details/102948574?ops_request_misc&request_id&biz_id102&utm_termQcustomPlot%E4%BD%BF%E7%94%A8%E5%AE%9E%E6%97%B6%E5%8A%A8%E6…

Python入门基础教程 Working with Python – Introductory Level

学会像计算机科学家一样用世界上最流行的编程语言之一思考 你会学到: 学习Python的基础知识&#xff0c;Python是当今最流行的编程语言之一 通过编写一个基于文本的冒险游戏来学习Python语言的语法 了解面向对象编程和过程编程的区别 学会像计算机科学家一样思考:做决定、循环…

MyBatis复习笔记5:MyBatis代码生成器

前言&#xff1a;做过几个项目之后深感代码生成器的便捷&#xff0c;有了它我们可以少写许多重复的、基础的代码&#xff0c;如基本的增删改查的代码&#xff0c;我们可以交给代码生成器生成&#xff0c;而我们只需要专注于业务逻辑上的代码即可。 MyBatis Generator MyBatis官…

QT报错“qt.network.ssl: QSslSocket: cannot resolve SSLv2_client_method”

出现错误找这里&#xff1a;https://blog.csdn.net/u010168781/article/details/85632637

数据科学Python训练营课程:从初级到高级 Python for Data Science Bootcamp Course:Beginner to Advanced

通过代码实现、示例等&#xff0c;掌握您需要了解的关于Python、Pandas和Numpy的一切&#xff01; 你会学到什么 通过代码实现、示例等&#xff0c;掌握您需要了解的关于Python、Pandas和Numpy的一切&#xff01; 学习高级Python模块和复杂功能&#xff0c;如Python装饰器、生…

MyBatis复习笔记6:MyBatis缓存机制

MyBatis缓存机制 MyBatis 包含一个非常强大的查询缓存特性&#xff0c;它可以非常方便地配置和定制。缓存可以极大的提升查询效率。MyBatis系统中默认定义了两级缓存。一级缓存和二级缓存。 默认情况下&#xff0c;只有一级缓存&#xff08;SqlSession级别的缓存&#xff0c;也…

JAVA语法基础 3

一.实战演练 1.编写Java程序&#xff0c;声明2个int型变量&#xff0c;运用3元远算符判断两个变量是否相等&#xff0c;若不相等&#xff0c;求出两个数中较大的。 public class 练习题 { public static void main(String[] args) { int a1&#xff1b; int b2&#xff1b; Sys…

堆排序示例-java

package Heapsort; public class TestMain { /** * 调整堆 * param array 数组 * param i 调整的元素i * param length 堆元素个数 */ public static void adaptationArray(int[] array,int i, int length) { // 当前元素 int cur i; while(2*cur2<length) { int curValue …

创建新的ros工作空间

链接:https://www.cnblogs.com/ailitao/p/11047312.html

Blender左轮手枪制作教程

Artstation – Revolver Tutorial – Industry Ready Weapon & Attachment Creation for Video Games 持续时间19h 包含项目文件 1280X720 MP4 语言&#xff1a;英语中英文字幕&#xff08;根据原英文字幕机译更准确&#xff09; 大小解压后&#xff1a;16.6G 标题:艺术站-…

设计模式学习1:设计模式简述和设计模式原则

设计模式简述 什么是设计模式&#xff1f; 软件工程中&#xff0c;设计模式&#xff08;design pattern&#xff09;是对软件设计中普遍存在&#xff08;反复出现&#xff09;的各种问题&#xff0c;所提出的解决方案。 设计模式的目的&#xff1a; 代码高可用&#xff08;相…

mysql 常用sql与命令

1. 如何禁用和启用mysql外键约束 SET foreign_key_checks 0; 禁用外键SOURCE dump_file_name; 进行SQL查询 SET foreign_key_checks 1; 恢复外键 2. 把字段改为自动增长 SET foreign_key_checks 0; ALTER TABLE zz_news MODIFY COLUMN id BIGINT(20) NOT NULL AUTO…

需要恢复中断状态的一个场景

没有恢复中断状态时&#xff0c;在Step1执行期间发生中断&#xff0c;Step2操作还会继续&#xff0c;这就存在让数据出现不一致的风险&#xff1a; import java.util.concurrent.TimeUnit;import org.slf4j.Logger; import org.slf4j.LoggerFactory;/*2015-4-9*/ public class …

新建ROS工作工作空间

空间解释&#xff1a; src:代码空间&#xff08;放置功能包&#xff1a;代码、配置文件、.launch文件&#xff09; build:编译空间&#xff08;编译文件&#xff1a;编译过程中产生的&#xff0c;不必去关心的&#xff09; devel:开发空间&#xff08;放置编译生成的可执行文件…

用Rhino V7建造机甲学习教程 Building a Mecha using Rhino V7

MP4 |视频:h264&#xff0c;1280720 |音频:AAC&#xff0c;44.1 KHz&#xff0c;2 Ch 语言&#xff1a;英语中英文字幕&#xff08;根据原英文字幕机译更准确&#xff09; |时长:45节课(16h 55m) |大小解压后:10.8 GB 一级和二级初级和中级 你会学到: 通过一个手把手的项目学…

Nginx学习2:Nginx的安装配置和常用命令

Nginx的安装、常用命令和配置文件 在Linux系统安装Nginx 我们使用虚拟机来完成在Linux系统安装Nginx的步骤&#xff0c;在这里我选择的是CentOS7的Linux系统&#xff0c; 1、到官网下载Nginx 官网地址&#xff1a;http://nginx.org/en/download.html 我们选择稳定版的直接下…

鼠标悬浮指针变手

cursor:pointer; //鼠标悬浮样式转载于:https://www.cnblogs.com/GerryOfZhong/p/5219365.html

linux设备驱动第五篇:驱动中的并发与竟态

目录[-] 综述信号量与互斥锁Completions 机制自旋锁其他的一些选择不加锁算法原子变量与位操作seqlock&#xff08;顺序锁&#xff09;读取-拷贝-更新&#xff08;RCU&#xff09;小结综述 在上一篇介绍了linux驱动的调试方法&#xff0c;这一篇介绍一下在驱动编程中会遇到的并…

Ubuntu16.04运行.run文件

QT配置ROS环境,运行.run文件—参考链接: https://blog.csdn.net/have_fun_/article/details/88242536

终极AutoCAD大师班:成为AutoCAD专家

Ultimate AutoCAD Masterclass: Become an Expert in AutoCAD 流派:电子学习| MP4 |视频:h264&#xff0c;1280720 |音频:AAC&#xff0c;44.1 KHz 语言&#xff1a;英语中英文字幕&#xff08;根据原英文字幕机译更准确&#xff09;|大小:6.39 GB |时长:9h 58m 使用AutoCAD学习…