我正在做一个项目,使用cassandra1.2,hadoop1.2
我已经创建了普通的cassandraMap器和reducer,但是我想创建自己的输入格式类,它将从cassandra读取记录,我将通过使用拆分和索引拆分该值来获得所需列的值,因此,我计划创建自定义格式类。但我很困惑,不知道我该怎么做?要扩展和实现哪些类,以及如何获取行键、列名、列值等。
我的mapperclass如下:
public class MyMapper extends
Mapper<ByteBuffer, SortedMap<ByteBuffer, IColumn>, Text, Text> {
private Text word = new Text();
MyJDBC db = new MyJDBC();
public void map(ByteBuffer key, SortedMap<ByteBuffer, IColumn> columns,
Context context) throws IOException, InterruptedException {
long std_id = Long.parseLong(ByteBufferUtil.string(key));
long newSavePoint = 0;
if (columns.values().isEmpty()) {
System.out.println("EMPTY ITERATOR");
sb.append("column_N/A" + ":" + "N/A" + " , ");
} else {
for (IColumn cell : columns.values()) {
name = ByteBufferUtil.string(cell.name());
String value = null;
if (name.contains("int")) {
value = String.valueOf(ByteBufferUtil.toInt(cell.value()));
} else {
value = ByteBufferUtil.string(cell.value());
}
String[] data = value.toString().split(",");
// if (data[0].equalsIgnoreCase("login")) {
Long[] dif = getDateDiffe(d1, d2);
// logics i want to perform inside my custominput class , rather here, i just want a simple mapper class
if (condition1 && condition2) {
myhits++;
sb.append(":\t " + data[0] + " " + data[2] + " "+ data[1] /* + " " + data[3] */+ "\n");
newSavePoint = d2;
}
}
sb.append("~" + like + "~" + newSavePoint + "~");
word.set(sb.toString().replace("\t", ""));
}
db.setInterval(Long.parseLong(ByteBufferUtil.string(key)), newSavePoint);
db.setHits(Long.parseLong(ByteBufferUtil.string(key)), like + "");
context.write(new Text(ByteBufferUtil.string(key)), word);
}
我想减少Map器类逻辑,并对自定义输入类执行相同的计算。
请帮帮我,我希望斯塔基能做出积极的回应。。。
1条答案
按热度按时间zengzsys1#
您可以通过将Map器逻辑移动到您的自定义输入类来完成预期的任务(如您已经指出的)
我发现这篇很好的帖子解释了一个和你类似的问题陈述。我想这也许能解决你的问题。