linux部署分布式文件系统hadoop

Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(highthroughput)来访问应用程序的数据,适合那些有着超大数据集(largedataset)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streamingaccess)文件系统中的数据。Hadoop的框架最核心的设计就是:HDFS和MapReduce。HDFS为海量的数据提供了存储,则MapR...

阅读全文

zabbix3.4使用agent监控linux主机

通过部署在不监控主机上,收集硬件信息或与操作系统有关的内存,CPU等信息。适用:Linux,Solaris,HP-UX,AIX,FreeBSD,OpenBSD,OSX,Tru64/OSF1,WindowsNT4.0,Windows(2000/2003/XP/Vista)等系统传输方式:zabbixserver可以单独监视远程服务器的服务状态;同时也可以与zabbixagent配合,可以轮询zabbixagent主动接收监视数据(agent方式),同时还可被动接收zabbixagent发送的数据(trapping方式)zabbi...

阅读全文

linux下安装RabbitMQ

RabbitMQ是流行的开源消息队列系统,是AMQP(AdvancedMessageQueuingProtocol高级消息队列协议)的标准实现,用erlang语言开发。RabbitMQ据说具有良好的性能和时效性,同时还能够非常好的支持集群和负载部署,非常适合在较大规模的分布式系统中使用Rabbit模式大概分为以下三种:单一模式、普通模式、镜像模式单一模式:最简单的情况,非集群模式,即单实例服务。普通模式:默认的集群模式。queue创建之后,如果没有其它policy,则queue就会按照普通模式集群。对于Queue来说,消息实体只存在于其中一个节点,...

阅读全文

Linux中搭建FastDFS简易单服务器

什么是FastDFSFastDFS是一个叫余庆的哥们用c语言编写的一款开源的分布式文件系统功能有冗余备份、负载均衡、线性扩容等,高可用、高性能可以用FastDFS搭建一套高性能的文件服务器集群提供文件上传、下载 fastDFS又区别于Hadoop的HDFS,前者用于上传下载文件或者图片,后者用于解决大数据分析,提供解决方案(当然也能用来存储文件) 图中tracker就相当于仓库管理员,负责管理storage中的文件,storage中每个组又有一些文件服务器,这些都是平级的,没有主从关系,不像redis,也不像MySQLstorage...

阅读全文

ubuntu20.04配置NFS文件共享服务器

NFS是NetworkFileSystem的缩写,即网络文件系统。一种使用于分散式文件系统的协定,由Sun公司开发,于1984年向外公布。功能是通过网络让不同的机器、不同的操作系统能够彼此分享个别的数据,让应用程序在客户端通过网络访问位于服务器磁盘中的数据,是在类Unix系统间实现磁盘文件共享的一种方法。NFS在文件传送或信息传送过程中依赖于RPC协议。RPC,远程过程调用(RemoteProcedureCall)是能使客户端执行其他系统中程序的一种机制。NFS本身是没有提供信息传输的协议和功能的,但NFS却能让我们通过网络进行资料的分享,...

阅读全文

linux下编译安装TFS

TFS(TaobaoFileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,主要针对海量的非结构化数据,它构筑在普通的Linux机器集群上,可为外部提供高可靠和高并发的存储访问。TFS为淘宝提供海量小文件存储,通常文件大小不超过1M,满足了淘宝对小文件存储的需求,被广泛地应用在淘宝各项应用中。它采用了HA架构和平滑扩容,保证了整个文件系统的可用性和扩展性。同时扁平化的数据组织结构,可将文件名映射到文件的物理地址,简化了文件的访问流程,一定程度上为TFS提供了良好的读写性能。本文记录了tfs 2.2.16版本...

阅读全文

linux mysql启动停止脚本

自己写的收藏下,免得每次都要重写,mark mark mark!系统约定,mysql编译在/usr/local/mysql下,数据存放路径是/data/mysql,如果你已经在/etc/init.d/下添加了服务来管理启动停止,最好不要再使用这个脚本,不然会有问题,但是解决这个问题也很简单,把mysql-bin.index这个删除掉就行了,再用/etc/init.d/下的服务来管理#bin/bash#author mercifunction mysql_start(){  &nbs...

阅读全文

linux下sed命令详解以及用法参数

调用sed命令有两种形式:sed [options] 'command' file(s)sed [options] -f scriptfile file(s) 删除:d命令 $ sed '2d'   example-----删除example文件的第二行。$ sed '2,$d' example-----删除example文件的第二...

阅读全文

使用ansible批量管理linux服务器

首先我们需要安装Ansible,避免麻烦我们直接更换阿里云yum源wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repoyum -y install ansible上面是服务端需要安装的,客户端也是需要安装一些工具的yum -y install libselinux-python下面我们来看看ansible的基本配置,主要是/etc/ansible/下hosts文...

阅读全文

在linux服务器上装svn版本管理,自动部署代码到项目

1.安装svn服务器端yum install subversion从镜像下载安装svn服务器端 中间会提示是否ok,输入y,确认 安装成功提示:.....complete! 依次执行如下命令: cd /usr/local/              //进入目录,准备创建svn目录 mkdir svnRepo &n...

阅读全文